分类

学习路线

LLM Infra 的分层学习路径与资料地图

如何分层学习推理 Infra:从 CUDA 基线到昇腾,再到训练与 RL
2026-10-17
整理日期:2026-09-14(晚间增量)。依据当天新增问题、可见对话摘录与一手资料整理,不是完整逐字稿。教学推导与用户反馈分别注明,未执行服务器操作。 今天的困惑 你感到推理 Infra 已经很复杂,叠加昇腾后需要同时处理模型、量化、缓存、并行、网络和版本;因此考虑先在 CUD
0
|
0
推理 Infra 的高速演化期:为什么疯狂、未来 1–3 年如何收敛,以及职业窗口
2026-10-17
问题起点 为什么 LLM inference infra 的变化速度异常快,甚至产生“一年像传统软件多年”的体感?未来 1–3 年会趋于稳定,还是继续无法收敛?这个领域究竟是工程主导还是理论主导?从数据库、云计算、CUDA 等历史阶段回看,进入这种早期系统领域意味着什么? 为什么
0
|
0
AI Infra 黄金开源项目地图:Serving、KV、通信、Kernel 与训练
2026-10-17
问题起点 AI Infra 项目很多,但不是每个项目都值得长期投入。真正高价值的项目,通常处于性能关键路径、系统 abstraction 边界或跨硬件通用层,能够训练出可迁移的系统能力,而不是只让人熟悉某个工具。 判断“黄金项目”的标准 一个项目是否值得深挖,可以用五个维度判断:
0
|
0