EVIDENCE REGISTER
来源、证据等级与更新边界
找到一篇讨论文章,不等于找到了可核验的模型或系统事实。凡是会影响架构、容量、性能或部署判断的 2026 年主张,这里都尽量回到原始论文、官方模型卡、正式 release 或项目文档。
证据等级
| 等级 | 可以支撑什么 | 不能支撑什么 |
|---|---|---|
| A · 一手 | 论文、官方模型卡、官方 release、官方文档/仓库中明确写出的机制、模型规格、实验设置。 | 未披露的训练数据、内部拓扑、未发布版本的细节。 |
| B · 可复现实现 | 公开 runtime 的模型支持、kernel、配置与复现实验。 | 把实现者的兼容层推成模型官方设计。 |
| C · 专业解读 | 选题、机制直觉、对公开材料的解释与批评。 | 未经一手材料确认的模型参数、内部系统数字和未来发布信息。 |
| D · 传闻/推测 | 提示应继续核验的问题。 | 任何确定性的技术结论。 |
基础模型、attention 与 MoE
- Attention Is All You Need:Transformer 原始架构。
- GLaM:公开大规模 MoE 架构与稀疏激活背景。
- vLLM / PagedAttention:连续批处理与分页 KV serving 基础。
- FlashAttention、FlashAttention-2:attention 的 I/O-aware kernel 基础。
- KIVI:KV cache 量化代表性工作。
结构图审计
插图只在能够追溯到论文、模型卡或官方技术资料,而且确实能解释模型结构、系统数据路径、协议分层、物理拓扑或实验结果时保留。图注会注明来源、它能说明什么,以及哪些结论不能由它推出。审计清单见 visual-audit.json。
目录页、跨模型比较页和跨供应商控制面页不强行放图。相关公众号内容目录、开放模型横向页、部署边界页和 Systems for ML 论文目录都不存在一张可信的“统一厂商架构图”,因此直接链接到各模型专题、论文或官方 API 文档,不再用模板图填充页面。
2026 语言模型与结构报告
| 对象 | 一手来源 | 在 Mainline 中的位置 |
|---|---|---|
| DeepSeek V3 → R1 → V3.2 → V4 / OCR | V3 report;R1;V4 report;OCR-2 | 37 完整谱系;13 V4 深挖 |
| GLM-5 → 5.1 → 5.2 | GLM-5 report;5.1 模型卡;5.2 模型卡;IndexCache | 14 完整谱系 |
| Gemma 4 / DiffusionGemma | 官方模型卡;MTP 文档;QAT | 15 模型、MTP、QAT 与部署 |
| DiffusionGemma | Google 官方发布 | 11 diffusion text、15 |
| Qwen3.5 → 3.6 → 3.7 | 3.5 模型卡;3.5/3.6 repo;3.7 产品页 | 34 完整谱系 |
| Kimi K2 → K2.7-Code / Composer | K2.5 report;K2.7-Code;Composer 2.5 | 33 完整谱系 |
| Hy3-preview → Hy3 | Preview 模型卡;Hy3 模型卡;正式公告 | 35 完整谱系 |
| MiniMax M1 → M2.7 → M3 | M2 report;MSA report;M3 模型卡 | 36 完整谱系 |
Runtime、KV 与数据中心
- vLLM 官方文档:运行时语义、prefix cache、分布式执行。
- SGLang 官方文档:前缀复用、调度和结构化生成的工程参考。
- Gemma MTP 官方文档:多 token prediction 的配置与运行时边界;完整机制见 21。
- Mooncake:KV-centric P/D disaggregation 的 FAST 2025 公开系统论文。
- RTP-LLM:2026 大规模服务栈、PD、层级 KV 和多模态说明。
- Scaling Pain、ZCube:2026 生产系统经验与数字,作为厂商技术报告阅读。
- NCCL 官方文档、TensorRT-LLM 文档:collective、量化和 runtime 细节。
开权重、托管 API、缓存与可靠性
| 对象 | 一手来源 | 在 Mainline 中的位置 |
|---|---|---|
| 开权重 self-host | Kimi deploy guidance;Qwen vLLM recipe;Hy3 repo;各模型卡。 | 38 自部署 |
| OpenAI / Google / xAI 托管控制面 | OpenAI Batch;Gemini cache;xAI cache。 | 39 托管 API |
| 缓存与 Agent 状态 | PagedAttention;Mooncake;DeepSeek user_id / rate limits。 | 40 cache / Agent |
| 容量、区域与可靠性 | OpenAI data controls;Vertex Provisioned Throughput;Robust LLM Training Infra。 | 41 可靠性 |
Systems for ML 论文目录快照
mental2008/awesome-papers 的 Systems-for-ML 目录是人工整理的 GitBook,并非自动爬取的论文全集。Mainline 基于 2026-07-15 的 commit ccaaf4a 生成快照,收录 226 条题名及原论文或代码链接。快照保留上游归属和 MIT 许可证说明,但不复制上游笔记、图片或论文正文。入口见 42 · 系统论文目录。
网络、互联、存储与 DPU:2026 公开基线
| 对象 | 一手来源 | 在 Mainline 中的位置 |
|---|---|---|
| Ethernet Scale-up | OCP ESUN 1.0:2026-03 的公开规范发布,涵盖 lossless、拥塞控制、链路级 retry、小消息和多跳 scale-up。 | 22、24 |
| Ultra Ethernet | UEC Specification History:当前公开版本是 1.0.2(2026-01-28),用于版本边界,不用营销名替代具体语义。 | 23、24 |
| 推理 fabric | OCP Aligned AI Inference Fabric Reference Architecture(2026-04):多租户、前后端流量、RDMA 后端、控制面与运维参考。 | 26、29 |
| NCCL / DPU / 设备接口 | NCCL 官方文档与硬件/网络厂商文档用于核验 collectives、设备亲和性、DMA 与卸载边界;不把二手文章的内部实现写成事实。 | 25、27、30 |
Agentic serving 的论文边界
“模型会调用工具”只是 Agentic serving 的入口。阅读基础系统论文、2026 年新论文、开源 runtime 和厂商报告时,需要分别核对发表时间、是否经过同行评审、实验使用的模型与硬件,以及实现是否公开。17 Agentic serving 研究页按这些条件整理材料;09解释工具调用如何影响 KV、scheduler 和 SLO。
多模态、diffusion text 与 diffusion media
第三方专栏的使用方式
相关公众号内容目录主要来自用户提供的 25 个官方 WeChat album,并完整翻取了各 album 的分页。按 2025–2026 年筛选后得到 210 条目录记录;与第三方公开的 2025 账号快照及用户在 2026-07-16 提供的 4 条近期原始链接合并去重,主表现有 170 条,其中 2025 年 126 条、2026 年 44 条。这些数字只描述当前可复查的来源,不能视为账号的全部发文。
官方集合涉及推理系统、数学基础、GPU/Tensor、分布式系统、AI 加速器互联、云基础设施、RDMA、DPU、存储、网络架构、可编程网络、MPI 和 DPDK。第三方数据只补充 2025 年内容,且截至 2025-10-27,无法用来证明账号全量或 2026 年覆盖情况。4 条直接链接同样只能证明对应文章存在。可公开枚举的记录收在 六条技术 track 中;网络和基础设施的解释从 22 延伸至 30,Agent 科研与 AI4Science 工作流见 32。
这里不是内容镜像,不复制第三方全文、图片或表格。文章提到的模型结构和系统数字会优先用本页 A/B 级来源核对;查不到一手依据的内容会明确标作解读或推测。
如何阅读一个数字
吞吐、TTFT、ITL、cache hit rate、成本、GPU 数和“加速倍数”离开实验条件就没有可比性。阅读数字时至少要核对模型版本、权重/KV 精度、GPU、节点拓扑、输入输出长度、并发、batch 与 prefix hit 设置、是否计入网络和采样,以及统计量是均值还是 P99。条件不全的结果只能用来判断大致方向。
横向比较与机制追踪
19 开放模型横向比较将 Qwen3.5、Kimi K2.6、MiniMax M3、DeepSeek-V4、GLM-5.2 和 Gemma 4 放到总参数、活跃参数、上下文、模态和运行时约束同一张账上。20 Attention 与条件记忆则将 full/sparse/linear attention、Engram、mHC-Lite 和实际的 KV cache / 网络数据路径分开处理。