2026-09-18 学习复盘:量化恢复、长上下文压测与推理系统
时间与覆盖范围
北京时间2026-09-18 00:00(含)至2026-09-19 00:00(不含)。2026-09-20整理。
依据可访问的历史对话检索、用户反馈、1份原始EvalScope日志与Notion已有正式文章。检索不是账号聊天列表的完整导出,本页不宣称覆盖全部会话。128K结果来自用户反馈;文件可直接核对1K、32K。旧助手输出不是天然已核实事实。
本日主线与文章导航
新增3篇专题:
- 长上下文压测与 PD 配比:从单请求日志到容量实验:测试目标、实测表、端口纠错、冷/热缓存矩阵、容量推导和长上下文质量边界。
- MTP 与投机解码:接受率、每步产出和加速收益的区别:45%/41.7%接受率、每轮产出和加速收益的区别。
- GPU 与 NPU 多任务共享:进程并发、MPS、MIG 和虚拟化边界:多进程、MPS、MIG与虚拟化隔离。
增量更新5篇正式文章:
- GLM-5.3-Flash 精度异常复盘:从 GPQA 反馈到分层定位:按用户反馈将精度状态更新为62.1%→91.1%已恢复;保留历史定位过程。
- DP2、TP8 与 MoE EP:两节点部署为何不一定是两份独立模型:脚本DP2×TP8、16逻辑设备、TP4矩阵切分,并纳入19日EP重叠追问。
- 昇腾算子开发体系:AOL、Ascend C、CATLASS、Triton-Ascend、TileLang 与 PyPTO:Mmad/GEMM、GM/UB、关键路径与融合收益。
- vLLM-Ascend 开源贡献方法论:从后端适配到 Upstream Abstraction:Isotr0py学习路径、PR证据边界与Agent生产率。
- 昇腾超节点与灵衢互联:Scale-Up、UnifiedBus、Full Mesh、Clos、UBoE 与 RoCE:统一尺度比较昇腾/NVIDIA,不用总卡数直接推导优劣。
同主题沿用既有正式页;本次未确认需要合并的重复稿,没有移入回收站,也未永久删除。
其他可访问问题与整理
模型平台:魔乐与魔搭
14:17左右讨论modelers.cn与ModelScope的区别。保留两个不同平台入口:魔乐、魔搭。本次魔乐页面读取失败,魔搭动态页未返回可用正文,因此不编写当前功能、模型数量或速度排名。
对实际下载任务,先核对模型发布者、revision、权重校验值、license和配套代码;镜像平台能下载不证明权重版本与评测基线一致。这与当天量化恢复的权重来源问题直接相连。
多Agent开发笔记本
18:05左右的目标是同时运行多个Agent并连接远端CUDA/Ascend多卡集群;你明确不需要本地NVIDIA独显,重点为内存、Linux/x86兼容和本地开发体验。
选型前测量浏览器、IDE、各Agent进程、容器和编译任务的总峰值内存;Agent数量不直接换算成固定内存需求。128GB是你关注的容量,不写成必需门槛。原生Linux、WSL和macOS的比较应落到依赖、容器架构、SSH与远程调试流程。真实HCCL/NCCL拓扑仍在远端验证。
旧对话关于M7/OLED发布时间的说法未获本次一手确认,不作为购买依据;本页不推荐未核实的新机型。
相对论、探测器与费米问题
18:34左右问“3小时走3.7光年”,首先分清3小时是哪只钟。教学模型忽略加减速:若是地球参考系3小时,所需速度远大于光速,不能由有质量飞船实现;若是飞船固有时3小时,可用t²=τ²+(L/c)²求地球经过时间,约3.7年,洛伦兹因子约1.08万。
这是狭义相对论理想匀速算例,不是工程可行方案。超级AI探测器能否解释未见外星文明属于开放假设,不能从时间膨胀推导外星文明存在或不存在。
ChatGPT Plus功能
已检索到相关提问,但没有取得足以重建当时账号功能与额度的完整证据。保留为待补内容,不把其它账号、地区或后续版本权益写成你的可用功能。
周报与下一步
用户21:11反馈精度恢复和HDK26.1.1升级已完成;单机TP16和双机PD并行推进,PD性能仍待定位。工作完成度分为正确性、环境稳定性、性能SLO三条,精度通过不等于容量验收完成。
下一步优先保存正确权重的可复现清单,再测32K固定输出下并发1/2/4/8;随后验证长上下文、真实缓存命中和P/D队列。该并发梯度是实验建议,不是已运行结果。
职业和生活决策
22:19左右比较新加坡与国内工作、饮食文化。保留决策维度:是否能负责推理核心链路、可用集群资源、维护者交流机会、总收入减生活成本及个人适应性;不按国家概括全部团队质量,不补造税率或签证结论。
22:46左右比较中关村出发往上海飞机/高铁。应按门到门时间=市内接驳+提前到达+乘行+到达后接驳比较,另计延误风险、行李和可工作时间。本次没有具体出发日期和班次核验,不记固定票价或承诺时长。
纠错与证据等级
用户实验反馈:GPQA91.1%、128K结果、驱动升级;直接日志:1K/32K及URL8300;教学推导:TP切分、PD容量、相对论算例;待确认:完整长上下文矩阵、具体虚拟化支持、传闻机型、PR数字和账号权益。
“prefix-length=0”不等于服务端缓存关闭;“3/3成功”不等于容量和p99稳定;“MTP两rank接近”不等于缓存正确性已证明。