2026-10-03 AI 动态(截至 01:10)
· 阅读需 2 分钟
信息截至 2026-10-03 01:10(北京时间),不含当日后续动态。
本期焦点
- SGLang 0.5.21 发布,支持 DeepSeek-V4.1-Flash、MiMo-V2.6 等模型。
- 推理节点可动态切换预填充与解码角色,新增结构化决策接口。
今日动态
SGLang 0.5.21 扩展模型适配与推理调度
SGLang 10 月 2 日发布 v0.5.21,增加 DeepSeek-V4.1-Flash、MiMo-V2.6 等模型支持,并汇集模型执行、缓存与推理服务方面的改进。
本版支持推理节点在无需重启的情况下切换预填充和解码角色,便于适应输入、输出负载变化;同时加入原生 /v1/decisions 分类与评分接口。发行说明中的速度提升对应特定模型和测试条件,自行部署时仍需结合硬件、并发量及请求长度验证。
Sources
- SGLang — v0.5.21 发布记录 — 10 月 2 日发行、模型适配、动态角色切换与决策接口。
本 AI 日报由 AI 行业公开信息整理,数据截至 2026-10-03 01:10(北京时间)。所有信息均来自公开来源,不构成投资建议。