0
0

Kimi K3 在 vLLM Ascend 的支持快照:上下文、PD、KV Pool 与版本证据

整理日期:2026-09-14(晚间增量)。依据当天新增问题、可见对话摘录与一手资料整理,不是完整逐字稿。教学推导与用户反馈分别注明,未执行服务器操作。

核查范围

核查日期为 2026-09-14。你希望知道 K3 是否支持长上下文、DCP、池化,以及改配置还是改源码。本节记录公开证据及其限制,不把路线图条目当作你的机器已跑通。

可确认的公开资料

已有官方 Kimi-K3 部署教程和 vLLM recipe,教程描述 KDA/MLA 混合骨干及多节点部署。部署教程

该教程的 A3 示例:四节点默认 max_model_len=131072;它给出的 1M 方案是至少八台 Atlas 800 A3(每节点 64G×16),将长度设置为 1048576。PD 验证示例使用十六节点,8 Prefill+8 Decode,两侧 DP8/TP16。这些是文档所列方案,不是所有硬件的理论最低节点数,也不能外推为四台必定无法通过其他方案运行。

版本信息存在冲突

上述 URL 与正文标注 0.23.0;但 Roadmap #13452 表述首次支持落在 releases/v0.26.0rc,并强调 release 分支完成不代表 main 可用。两来源的版本叙述不一致,因此不能给出一个无条件适用的“最低版本”。

部署应固定上游 vLLM 与插件 commit、镜像 digest、模型版本及测试脚本,而不是只写 latest。Roadmap #13452

DCP 与池化能否下结论

本次读取的教程没有找到 DCP 明确配置;不能由“支持 1M”推导出“支持 DCP”,也不能由未找到条目反推“不支持”。

Roadmap 跟踪 Mooncake/AscendStore 的混合缓存交接、PD 和 offload,但页面提取未保留复选框状态。它能作为适配线索,不能单独证明每个组合已完成。通用 KV Pool 指南也不能代替 K3 混合状态的验证。

只改配置还是修改源码

已包含所需模型注册、缓存布局与 connector 适配的配套构建,可能通过配置启用已有功能;缺少实现时,多加一个参数不能完成适配。先确认功能所在分支和已合入 PR,再决定升级至配套构建还是做源码工作。

当前应保留的状态表述

基础部署与特定拓扑长上下文:有教程证据。PD:有具体示例。K3+DCP、K3+KV Pool+特定 dtype/并行组合:本次没有取得足够完整的验证矩阵,保留待确认。

用户所述“四台 Prefill 已启动”作为局部进展记录,尚非端到端验收。