从 AllReduce 到通算融合:语义、流水、资源竞争与优化验收 2026-10-17 2026-10-17 硬件、算子与编译 问题起点 9月22日问AllReduce与AllGather是否“通信完全没区别”;23日继续问通算融合、MegaMoE、多Agent调优及算子并行。本篇把语义正确性、执行重叠和端到端收益分开。 用两个rank计算一次 rank0=[1,2],rank1=[10,20]: - S 0 | 0
从 PyPTO 到硬件指令:PTO、PTOAS 与 PTX 的抽象层级和编译链路 2026-10-17 2026-10-17 硬件、算子与编译 整理日期:2026-09-10。本文根据一次关于 PyPTO、PTO、PTOAS 与 PTX 的技术讨论整理,结合对话中查阅的公开项目文档。代码用于解释概念,未进行编译或性能测试。 1. 从一个疑问出发:PTO 不是虚拟指令集吗? 理解昇腾编程生态时,很容易形成这样的直觉:PyP 0 | 0
读懂昇腾 A3 的设备层级:双 Die、davinci 节点与空闲 HBM 排查 2026-10-17 2026-10-17 硬件、算子与编译 整理日期:2026-09-14。来源:当天可见聊天摘要;原理说明为整理时补充,非完整对话逐字稿。未取得的设备参数与未验证的结论明确保留为待核实。 今天的困惑 A3 容器为什么要映射两个设备节点?npu-smi 里的 NPU、Chip、Phy-ID 分别是什么?没有模型运行,为什么 0 | 0
昇腾 950 与 Atlas SuperPoD:从计算架构、存储互联到大模型推理优化 2026-10-17 2026-10-17 硬件、算子与编译 从 950 工程营笔记出发,建立“计算架构—存储—互联—软件生态—推理工作负载”的完整理解。 整理日期:2026-09-10。来源为个人课堂记录及公开资料。本篇将“通用技术原理”“厂商公开规划”“已发生的产品进展”“工程营待核实信息”分开;厂商标称指标不等于第三方实测性能,产品亮 0 | 0
昇腾超节点与灵衢互联:Scale-Up、UnifiedBus、Full Mesh、Clos、UBoE 2026-10-17 2026-10-17 硬件、算子与编译 超节点的核心并不是“把很多服务器连起来”,而是把更多加速器纳入一个更紧耦合、低时延、高带宽的 Scale-Up 计算域,使模型能够像使用一台更大的计算机一样使用更多计算、内存与通信资源。 整理日期:2026-09-10。本文将通用网络原理与昇腾公开方案分开描述;具体链路带宽、卡数 0 | 0
昇腾软件栈分层:Firmware、Driver、CANN 与 Tiling 下沉 2026-10-17 2026-10-17 硬件、算子与编译 整理日期:2026-09-14。来源:当天可见聊天摘要;原理说明为整理时补充,非完整对话逐字稿。未取得的设备参数与未验证的结论明确保留为待核实。 用职责理解软件栈 Firmware 负责设备侧底层运行与管理的一部分;Driver 建立 Host 操作系统与设备的控制、内存和任务交 0 | 0
昇腾软件栈与开发者生态:CANN、TorchNPU、MindSpore、MindSpeed 与 Mi 2026-10-17 2026-10-17 硬件、算子与编译 这篇文章回答一个核心问题:开发者写下一个 PyTorch 模型之后,它究竟如何穿过昇腾软件栈,最终在 NPU 上执行? 整理日期:2026-09-10。 1. 衡量 AI 芯片“好不好用”,不能只看芯片 AI 芯片的最终使用者之一是开发者。对开发者而言,“好用”意味着:常见模型能 0 | 0
昇腾生态培训笔记:软件栈、大 EP 推理、超节点互联与跨代兼容 2026-10-17 2026-10-17 硬件、算子与编译 昇腾生态的竞争力,需要沿着“模型适配—算子与编译器—HBM—互联—调度与可靠性—客户交付”整条链路理解。超节点与大规模专家并行可以改善部分 MoE 推理瓶颈,但收益取决于工作负载和系统实现。 整理日期:2026-09-11。来源为本次培训笔记与公开项目、厂商文档。正文解释通用原理 0 | 0
昇腾算子开发体系:AOL、Ascend C、CATLASS、Triton-Ascend、TileLa 2026-10-17 2026-10-17 硬件、算子与编译 昇腾算子开发并不是只有一条路径。不同开发接口本质上是在“开发效率、可移植性、可控性、极致性能”之间做不同取舍。 整理日期:2026-09-10。 1. 先区分“调用算子”和“开发算子” 这是理解昇腾算子生态最重要的第一步。 调用现有算子 如果框架需要的算子已经存在,优先直接调用 0 | 0
昇腾硬件产品全景与架构演进:A2、A3、Ascend 950 与 Atlas SuperPoD 2026-10-17 2026-10-17 硬件、算子与编译 这篇文章的目标不是背型号,而是建立一个稳定的产品层级: Ascend 是处理器,Atlas 是板卡/服务器/集群产品,SuperPoD 是超节点系统形态。 整理日期:2026-09-10。本文优先采用当前昇腾官网产品目录与华为 2026 年公开资料;早期路线图数字与当前实际产品规 0 | 0