跳到主要内容

2026-10-03 AI 动态(截至 01:10)

· 阅读需 2 分钟

信息截至 2026-10-03 01:10(北京时间),不含当日后续动态。

本期焦点
  1. SGLang 0.5.21 发布,支持 DeepSeek-V4.1-Flash、MiMo-V2.6 等模型。
  2. 推理节点可动态切换预填充与解码角色,新增结构化决策接口。

今日动态​

SGLang 0.5.21 扩展模型适配与推理调度​

SGLang 10 月 2 日发布 v0.5.21,增加 DeepSeek-V4.1-Flash、MiMo-V2.6 等模型支持,并汇集模型执行、缓存与推理服务方面的改进。

本版支持推理节点在无需重启的情况下切换预填充和解码角色,便于适应输入、输出负载变化;同时加入原生 /v1/decisions 分类与评分接口。发行说明中的速度提升对应特定模型和测试条件,自行部署时仍需结合硬件、并发量及请求长度验证。

SGLang — v0.5.21 发布记录


Sources​


本 AI 日报由 AI 行业公开信息整理,数据截至 2026-10-03 01:10(北京时间)。所有信息均来自公开来源,不构成投资建议。