昇腾算子开发体系:AOL、Ascend C、CATLASS、Triton-Ascend、TileLa
2026-10-17
昇腾算子开发并不是只有一条路径。不同开发接口本质上是在“开发效率、可移植性、可控性、极致性能”之间做不同取舍。 整理日期:2026-09-10。 1. 先区分“调用算子”和“开发算子” 这是理解昇腾算子生态最重要的第一步。 调用现有算子 如果框架需要的算子已经存在,优先直接调用
3372 字
|
17 分钟
昇腾硬件产品全景与架构演进:A2、A3、Ascend 950 与 Atlas SuperPoD
2026-10-17
这篇文章的目标不是背型号,而是建立一个稳定的产品层级: Ascend 是处理器,Atlas 是板卡/服务器/集群产品,SuperPoD 是超节点系统形态。 整理日期:2026-09-10。本文优先采用当前昇腾官网产品目录与华为 2026 年公开资料;早期路线图数字与当前实际产品规
2581 字
|
13 分钟
线性注意力
2026-10-17
传统attention是O(n^2)复杂度 flashAttention用分块和重算减少了显存IO,但是理论复杂度还是O(n^2) gpu算除法可能比较慢 qkv cuda模型 thread warp block sm grod 1 个warp是32个thread 执行相同命令
663 字
|
3 分钟
AI Infra 为什么必须懂硬件体系结构:从 MFU 到 Full Mesh 与 Clos 超节点
2026-10-17
整理日期:2026-09-10。根据本次关于 AI Infra、硬件体系结构、MFU 与超节点网络拓扑的讨论整理;通用概念参考 PaLM、NVIDIA 网络文档与华为 Atlas 800T A3 官方资料。未能从公开权威资料核验的产品拓扑信息单独标注为待确认。 核心结论 对于 A
2768 字
|
14 分钟
Ascend C 调试复盘:UB 容量账本、数据类型转换与最小复现
2026-10-17
由失败现象建立可检验解释 9月22日围绕Sinh、int32转换、UB预算由4改6、InitBuffer及hang展开。可见材料包含一段对故障原因的解释,但没有完整kernel、所有缓冲声明或设备错误日志;因此“必然是32B对齐导致hang”仍是待验证假设。 UB账本怎样算 对每
842 字
|
4 分钟
Chiplet 技术详解:设计取舍、CoWoS 区别与 LLM 推理性能
2026-10-17
整理日期:2026-09-10。根据本次 Chiplet 技术讨论整理;厂商事实附官方资料,教学模型和性能推导单独注明。 核心结论 Chiplet 负责系统如何拆分和分工,CoWoS 是实现高密度封装连接的技术方案之一,HBM 是高带宽内存。 Chiplet(芯粒)是为组合成更大
2581 字
|
13 分钟
CUDA 与昇腾数据流对照:存储层级、分块与异步流水
2026-10-17
问题链与阅读目标 来源:2026-09-21—23的AI Core/CUDA Core、UB/L1/L0、TBuf/TQue、SIMD/SIMT、不规则访存和Tensor Core追问。本篇是整理时补充的教学解释,不是已在你机器上验证的性能结果。 核心问题是:数据放在哪里,由谁搬
1801 字
|
9 分钟
GEMM、Triton 与 TileLang:从分块代码到 Roofline 性能账本
2026-10-17
整理日期:2026-10-07。范围来自本次实际可检索对话、可见提问摘录与已保存材料;原回答不完整处由本次教学推导补充,以下算例均非设备实测。技术来源核查于2026-10-07。 问题从哪里开始 9月24日追问矩阵AB的行/列切分、7个元素怎么均分;10月上旬的提问摘录进一步涉及
1493 字
|
7 分钟