0
0

2026-09-20—23 深度学习复盘:从算子数据流到推理系统协同优化

统计窗口与覆盖范围

北京时间2026-09-20 00:00(含)至2026-09-23 14:51资料检索截点;23日不是全天结束版。另复查18—19日遗漏,未取得足以新增其它主题的证据,保留原有覆盖限制。

依据可访问历史提问摘录、定向检索与Notion正式笔记。不是完整账号聊天导出;本次补充原理解释、教学推导与实验方案,不冒充原始回答或用户完成的实验。未连接用户服务器进行复测。

本轮新增与更新

新增3篇深度专题:

更新5篇既有正式文章:

另新增本统计窗口总览。已按主题复用旧文,未发现需搬入99回收站的确定重复稿;无永久删除。根目录仍沿用既有01—07分类。

从零散问答到三条知识链

第一条:CUDA/Ascend硬件层级→分块→数据搬运→双缓冲→算子正确性→性能。它解释“为什么Ascend名词多”“CUDA一个if是否更强”和“UB预算为何影响运行”。

第二条:集合通信语义→TP/EP数据布局→通算融合→资源竞争→端到端SLO。它解释“通信是不是都一样”“哪些kernel能并行”和“Agent搜索为什么仍需硬件实验”。

第三条:量化编码→实际kernel→数值误差→任务质量→服务性能。它连接Sinh转换、INT8硬件支持、W8A8与此前GLM恢复案例;不能把一个dtype标签当作完整执行路径。

按日期核对已取得问题

9月20日:工具可信度与投机解码后续

已取得OpenCode v2迁移与稳定性、Tavily/Exa搜索服务、DFlash/DSpark及Ascend支持、定时任务模型选择等提问。

OpenCode:保留你明确指出“opencode migrate根本不支持”的纠正。未经对应版本CLI/help或官方仓库确认,不再把该命令作为可执行步骤。升级前后session丢失是你的反馈,具体迁移方案仍需当前文件与版本证据,本次未操作应用数据。

搜索API:把网页搜索、内容提取、语义检索、引用质量、延迟与单次有效答案成本分开评估。旧回答中的免费额度、绑卡要求和价格未在本次重新核实,未作为最新套餐写入笔记。

投机解码:已整理MTP旧实测,但DFlash/DSpark的确切论文、平均接受token数及vLLM-Ascend支持尚缺本次一手证据,不将名字相近的方法混合。比较应固定目标/草稿模型、硬件、数据和草稿长度;接受率与加速比不是同一指标。MTP 与投机解码:接受率、每步产出和加速收益的区别。

定时任务:记录你质疑“提示词指定Luna-low是否真的改变运行模型”。旧回答不能作为接口能力证明;本次不修改四个say pong任务,也不恢复或暂停任何自动任务。

另见“jev决策模型”的提问,但缩写所指对象未确认,保留待补原始链接。

9月21日:开发入口、架构类比与资源

已取得Thrust/同算子多实现、算子题库/WebGPU、芯片标识、Gather、AI Core/SIMT和CMake构建追问。内容分别并入调试、数据流和软件栈文章。

ASC配置找不到首先属于构建依赖定位问题;驱动版本不能直接代表toolkit具备新构建接口。Ascend910_9382等标识应与实际芯片版本及官方映射核对,本次不猜SKU。

租用910C、HiDevLab卡时、低价多卡CUDA等需求已记录;相关会话跨21—22日,具体提问以原始时间为准。当前未核查可用库存和计费,不给“免费可用”的保证。学习通信必须核实多卡拓扑、网络、权限和能否运行集合通信,而非只看总显存。

9月22日:算子基础与研究路线

已覆盖:Ascend C入门、ACL/aclnn/pybind11与Tensor/NumPy;TileLang与核数对比;TBuf/TQue、HBM/shared、双缓冲和同步;Sinh/int32/INT8、Norm/ND;UB预算和hang;910A/B跨代、旧教材、FA、PyPTO/仿真;集合通信;HPC、竞赛和一年发展路线。

教材不宜只按年份判断:数学、数据依赖和测量方法可保留,API、支持芯片、构建与搬运路径必须对照当前版本。未核实苏统华书籍全部版本内容,不宣布其“已无必要看”。

宏定义位置来自你贴出的toolkit路径;宏展开需读取对应头文件,本次未访问该机器,故不宣称具体展开已核对。

已有研究路线文档和知识地图需求作为背景记录,本次没有重写DOCX/PDF或改网站。Notion路线页新增独立的项目验收建议。

近期贡献issue清单、技术分析表格技能和论文周报是你提出过的任务;本次整理不把“提出任务”当作“已交付结果”。未核实的issue状态、论文跑分与新技能安装状态保留待补。

9月23日:调度与系统共同优化

已覆盖vLLM continuous batching和DP、CUDA/Ascend存储架构、Tensor Core调用、量化kernel、通算融合、算子资源竞争与Agent调优;知识地图的图形结构、依赖连线与掌握标记偏好也已纳入路线页。

Cerebras访谈仅取得所贴标题与部分转述,未取得可对照的完整访谈原文;“95%高质量开源模型”等数字不纳为事实。SRAM/HBM/晶圆级设计的判断需要容量、带宽、互联、成本和工作负载条件,不能仅凭文章标题定论。

关于GPT模型身份与发布的会话不作为技术产品事实来源,本次没有重申旧助手自报身份或未经核实的发布结论。

本轮关键纠错

旧说法或风险此次处理
910C固定32个核,与数千CUDA Core直接比撤销无证据的确定口径,区分计算簇与算术单元
CUDA只有shared,UB/L0都是其简单对应按存储位置、访问路径、消费者和代际拆解
compute再load加两个buffer即可重叠补生产消费依赖、完成等待、复用与排空
ubDataNumber=6就是每元素6字节需乘inputBytes;对齐仅是假设之一
DP2×TP8永远两份完整独立模型明确MoE跨DP专家组例外
一个向量函数转float说明INT8无硬件意义区分向量函数、整数矩阵路径和反量化路径
Agent数量越多,kernel一定越快完成加入硬件预算、测量隔离、正确性和端到端验收

下一次复盘如何增量

优先补UB问题的完整源码/日志、当前CANN配套矩阵、实际kernel dtype与profile、通信并发实验、DFlash/DSpark原始出处。证据足够后更新对应专题,不重复建同名文章。

对比表应给统一对象、版本、场景、指标、事实来源和日期;分数需要尺度与理由,缺失信息不记零分。已确认/用户反馈/教学算例/假设四类分别记录。

既有日期总览

2026-09-18 学习复盘:量化恢复、长上下文压测与推理系统;2026-09-19 学习复盘:EP与TP、代码数据处理疑问。18日量化恢复62.1%→91.1%仍按用户反馈保留,未回退成“仍未解决”;19日检索覆盖缺口仍存在。