分类

硬件、算子与编译

GPU/NPU 架构、CANN、Kernel 与编译链路

昇腾 950 与 Atlas SuperPoD:从计算架构、存储互联到大模型推理优化
2026-10-17
从 950 工程营笔记出发,建立“计算架构—存储—互联—软件生态—推理工作负载”的完整理解。 整理日期:2026-09-10。来源为个人课堂记录及公开资料。本篇将“通用技术原理”“厂商公开规划”“已发生的产品进展”“工程营待核实信息”分开;厂商标称指标不等于第三方实测性能,产品亮
0
|
0
昇腾超节点与灵衢互联:Scale-Up、UnifiedBus、Full Mesh、Clos、UBoE
2026-10-17
超节点的核心并不是“把很多服务器连起来”,而是把更多加速器纳入一个更紧耦合、低时延、高带宽的 Scale-Up 计算域,使模型能够像使用一台更大的计算机一样使用更多计算、内存与通信资源。 整理日期:2026-09-10。本文将通用网络原理与昇腾公开方案分开描述;具体链路带宽、卡数
0
|
0
昇腾软件栈分层:Firmware、Driver、CANN 与 Tiling 下沉
2026-10-17
整理日期:2026-09-14。来源:当天可见聊天摘要;原理说明为整理时补充,非完整对话逐字稿。未取得的设备参数与未验证的结论明确保留为待核实。 用职责理解软件栈 Firmware 负责设备侧底层运行与管理的一部分;Driver 建立 Host 操作系统与设备的控制、内存和任务交
0
|
0
昇腾生态培训笔记:软件栈、大 EP 推理、超节点互联与跨代兼容
2026-10-17
昇腾生态的竞争力,需要沿着“模型适配—算子与编译器—HBM—互联—调度与可靠性—客户交付”整条链路理解。超节点与大规模专家并行可以改善部分 MoE 推理瓶颈,但收益取决于工作负载和系统实现。 整理日期:2026-09-11。来源为本次培训笔记与公开项目、厂商文档。正文解释通用原理
0
|
0
昇腾算子开发体系:AOL、Ascend C、CATLASS、Triton-Ascend、TileLa
2026-10-17
昇腾算子开发并不是只有一条路径。不同开发接口本质上是在“开发效率、可移植性、可控性、极致性能”之间做不同取舍。 整理日期:2026-09-10。 1. 先区分“调用算子”和“开发算子” 这是理解昇腾算子生态最重要的第一步。 调用现有算子 如果框架需要的算子已经存在,优先直接调用
0
|
0