群发资讯网

SGLang 团队发布 Q4 多硬件路线图,宣布已支持超过 10 个加速器家族,并通过插件系统将外部后端接入提升为一等公民路径。重点覆盖英伟达、AMD(MI45x、Helios 机架级及 Ryzen AI)、谷歌 TPU、昇腾 NPU、英特尔 Xeon/XPU,以及平头哥 PPU 与寒武纪 MLU;

SGLang 团队发布 Q4 多硬件路线图,宣布已支持超过 10 个加速器家族,并通过插件系统将外部后端接入提升为一等公民路径。重点覆盖英伟达、AMD(MI45x、Helios 机架级及 Ryzen AI)、谷歌 TPU、昇腾 NPU、英特尔 Xeon/XPU,以及平头哥 PPU 与寒武纪 MLU;插件新增亚马逊 Trainium 与 MetaX。

路线图真正值得展开的是“能力基线 + 插件化”的组合打法。英伟达侧刷新协作节奏;AMD 侧同时推进 monokernels/megakernels、分布式服务、投机解码、HiCache,以及扩散/Omni 与 Miles RL 支持;谷歌 TPU 强调 Day-0 前沿模型、智能体工作负载优化、扩散服务与 RL rollout,并要求插件直接跑在上游 SGLang 上;昇腾收尾 H2 里程碑,英特尔聚焦后端优化,平头哥与寒武纪进入 bring-up 跟踪。插件层则统一做能力基设备门控、更稳健的投机解码与量化支持,以及对生产服务的全后端审计。这等于把“能跑”和“能生产”拆成两条清晰轨道:树内保证核心性能与特性对齐,树外用插件快速吸纳新硬件,同时用能力门控避免半成品后端污染生产路径。