首页
热门话题
快讯
常识问答
知识问答
精选问答
日常问答
经验问答
优选问答
更多
甄选问答
严选问答
宝藏问答
学识问答
传统文化
手机版
微信
微博
繁體中文
设为首页
加入收藏
首页
热门话题
快讯
常识问答
知识问答
精选问答
日常问答
经验问答
优选问答
甄选问答
严选问答
宝藏问答
学识问答
传统文化
您当前的位置：
首页
>> 标签：
SGLang 推出弹性专家并行（EP）扩容方案，支持 MoE 大模型在线推理无缝扩容
SGLang 推出弹性专家并行（EP）扩容方案，实现 MoE 大模型在线推理无缝扩容
SGLang 全新上线的弹性专家并行（EP）扩容方案，能够让 MoE 混合专家大模型在不间断在线推理业务的前提下完成集群算力扩容，全程不需要
浏览全文>>
大家爱看
自媒体赛车星冰乐因嘲讽诋毁尊界 S800，正式向尊界汽车作出公开道歉
搭载强化型 6 速手动变速箱 + 水平对置发动机，斯巴鲁新款 WRX 正式发布
港大联合腾讯发布 Multics 多玩家世界模型，分层通信架构大幅削减模型算力开销
Conway Research 推出 Underdog-Bark-3.0 轻量级离线语音识别模型163MB 体积、WER 低至 7.82%，全面支撑本地隐私转录
宇树科技股价大跌超 60% 后迎来强势反弹，走出超跌修复行情
OpenAI 多款模型正式入驻 Google Cloud Model Garden，完成美国三大云平台全覆盖
Bose 推出运动专用开放式耳机不入耳设计、保留环境音、低频表现强劲
杨元庆最新判断未来80%Token将在终端和边缘生成
英特尔与 AMD 依托 oneDNN 实现 PyTorch x86 CPU 优化方案统一
今年天猫双 11 拓宽消费品类，除实体商品之外正式开售 AI Token 算力套餐
频道推荐
AMD 将低价 CPU 市场留给 Intel，聚焦高端产品线提升盈利水平
Sakana AI 开源 QD-Rec 面向高风险决策的质量 - 多样性推荐框架正式发布
RTX5080 镶水晶版本定价近两万元，兼顾硬件升级与外观收藏价值
双 11 商家编造国补退场谣言制造抢购焦虑，央视正式辟谣
高性价比家用 SUV 上新上汽荣威家越 07 正式上市，11.98 万起售
日本 Coser きっか发布大量 Cos 摄影作品，身材条件十分出众
朝鲜互联网连续中断 32 小时，美国网络监测机构确认事件为 DDoS 攻击所致
LlamaIndex 推出 40 亿参数视觉语言模型 OCRia-1，专注复杂文档结构化解析任务
PyTorch 携手 AMD 内置 FlyDSL 高性能内核，大幅提速 MI350 系列大模型计算任务
PyTorch TorchTitan 升级至 v0.3.0 版本全面支持 MoE 模型与强化学习，成为千卡级大模型训练主流开源框架
站长推荐
泰坦军团新款 32 寸显示器正式首发，4K 180Hz QD-OLED 屏到手价 4319 元
沐曦曦云 C 系列 GPU 实现 Day 0 跑通 MiniMax M3.1Flash，Agent 推理整体成本下降 70%
OpenTac 开源触觉工具链正式发布支持法向 + 剪切力多维感知，全面强化机器人精细操作能力
史上首次荣耀 Magic9 系列销量拿下今年所有安卓旗舰新品第一名
眼科医生详解洗衣凝珠比洗衣液更容易刺激眼部的核心原因
首发全新麒麟芯片 华为 Pura 90 Plus 全维度无短板机型信息汇总
Meta 联合多所高校发布 SWE-sweep 全新基准引导 AI 代码工具从被动修复 Bug 转向主动巡检问题
Cohere 推出 Rerank 5 企业级检索重排模型支持上下文聚焦与概率校准，全面提升 RAG 流程效率与回答准确性
SGLang 推出弹性专家并行（EP）扩容方案，实现 MoE 大模型在线推理无缝扩容
硅谷爆火的两万元智能床实测 100 天，到底是不是智商税
联想小新 10.1 彩墨柔光版平板正式上市，搭载联发科技曦力 G300 处理器
DeepSeek 落地 150 亿美元 B 轮融资，全力提速明年初沪市 IPO 进程
MiniMax 开源稀疏大模型 M3.1 Flash，428B 总参仅激活 23B，上线 72 小时处理超 100 万亿 Token
好莱坞迎来全新资本玩家，华纳正式并入派拉蒙，马斯克完成重金入局投资
黑苹果迎来新突破，骁龙芯片成功启动 macOS 27 系统
理想 i6 实测续航达成率 104%，自研三电系统实现续航反向虚标
SSD 与 HDD 无法替代 磁带存储持续迭代 单盘容量冲刺至 365TB
全员 AI 全面落地之后，技术与产业的边界该如何划定
iPhone Duo 首发市场热度稳步回归理性，折叠屏行业仍处在品类定义阶段，距离全面普及还有成长空间
NVIDIA 祝贺 MiniMax M3.1 Flash 428B 正式发布，Vera Rubin 硬件实现 Day 0 原生支持
SGLang 推出弹性专家并行（EP）扩容方案，实现 MoE 大模型在线推理无缝扩容