2026-09-04 LLM Inference 推荐论文总结
2026-09-04 LLM Inference 推荐论文总结 今日主题：Inference 从单点加速走向 Runtime + Algorithm + System Co-design 今天 LLM inference 方向最值得关注的趋势： 推理优化正在从「kernel 优化
0
|
0
分类
论文阅读与研究
论文精读与研究方法
从手工调参到 AI Systems Optimizer：LLM Infra 联合优化的学术脉络
整理日期：2026-09-16。问题起点是：当推理、训练、RL 同时引入 TP/DP/EP/PP/CP、KV/activation/optimizer state、offload、阶段分离、通信 overlap、动态调度以后，系统变量会相互耦合。学术界是否正在形成更统一的方法，而
0
|
0
GPQA 阅读笔记：Google-proof、选择题与可扩展监督
整理于 2026-09-16，补录 9 月 15 日的论文翻译、Google-proof 与监督含义追问。本文为导读和核心概念梳理；未取得先前完整翻译，不标记为全文翻译已完成。 这篇论文在问什么 GPQA 用专家构建的研究生级科学选择题，研究“即使能检索资料，非领域专家仍难可靠判
0
|
0
Neural Thickets 阅读笔记：随机权重专家、集成成本与复现边界
整理日期：2026-10-07。问题来源：10月上旬可见对话中的论文链接/研究兴趣；本次已阅读作者论文v1，项目与代码作为复现入口，未复现实验，也未把作者结果记为用户实验。 论文与版本 Neural Thickets: Diverse Task Experts Are Dense
0
|
0