您当前的位置: 首页 >> 标签:RightNow 推出基于自研最快引擎的推理 API
RightNow 上线自研极速推理引擎配套推理 API,兼容主流开源大模型

RightNow 推出了搭载自家自研极速推理引擎的推理 API,这套引擎从底层 GPU CUDA、Triton 内核开始做全链路优化,主打低延迟、高吞吐的 浏览全文>>

站长推荐