EVIDENCE REGISTER
来源、证据等级与更新边界
找到一篇讨论文章，不等于找到了可核验的模型或系统事实。凡是会影响架构、容量、性能或部署判断的 2026 年主张，这里都尽量回到原始论文、官方模型卡、正式 release 或项目文档。
证据等级
| 等级 | 可以支撑什么 | 不能支撑什么 |
|---|---|---|
| A · 一手 | 论文、官方模型卡、官方 release、官方文档/仓库中明确写出的机制、模型规格、实验设置。 | 用于架构、参数、接口、实验结果和部署说明。 |
| B · 可复现实现 | 公开 runtime 的模型支持、kernel、配置与复现实验。 | 把实现者的兼容层推成模型官方设计。 |
| C · 专业解读 | 选题、机制直觉、对公开材料的解释与批评。 | 未经一手材料确认的模型参数、内部系统数字和未来发布信息。 |
| D · 传闻/推测 | 提示应继续核验的问题。 | 任何确定性的技术结论。 |
基础模型、attention 与 MoE
- Attention Is All You Need：Transformer 原始架构。
- GLaM：公开大规模 MoE 架构与稀疏激活背景。
- vLLM / PagedAttention：连续批处理与分页 KV serving 基础。
- FlashAttention、FlashAttention-2：attention 的 I/O-aware kernel 基础。
- KIVI：KV cache 量化代表性工作。
- Kimi Linear 与 官方仓库：KDA、3:1 KDA/MLA 混合架构、开放权重和 kernel。
结构图审计
插图只在能够追溯到论文、模型卡或官方技术资料，而且确实能解释模型结构、系统数据路径、协议分层、物理拓扑或实验结果时保留。图注会注明来源、它能说明什么，以及哪些结论不能由它推出。审计清单见 visual-audit.json。
目录页、跨模型比较页和跨供应商控制面页不强行放图。相关公众号内容目录、开放模型横向页、部署边界页和 Systems for ML 论文目录都不存在一张可信的“统一厂商架构图”，因此直接链接到各模型专题、论文或官方 API 文档，不再用模板图填充页面。
2026 语言模型与结构报告
| 对象 | 一手来源 | 在 Mainline 中的位置 |
|---|---|---|
| DeepSeek V3 → R1 → V3.2 → V4 / OCR | V3 report；R1；V4 report；OCR-2 | 37 完整谱系；13 V4 深挖 |
| GLM-5 → 5.1 → 5.2 | GLM-5 report；5.1 模型卡；5.2 模型卡；IndexCache | 14 完整谱系 |
| Gemma 4 / DiffusionGemma | 官方模型卡；MTP 文档；QAT | 15 模型、MTP、QAT 与部署 |
| DiffusionGemma | Google 官方发布 | 11 diffusion text、15 |
| Qwen3.5 → 3.6 → 3.7 | 3.5 模型卡；3.5/3.6 repo；3.7 产品页 | 34 完整谱系 |
| Kimi Linear / K2 → K3 / SWE-1.7 / Composer | Kimi Linear / KDA；K2.5 report；K2.7-Code；K3 官方发布；K3 官方仓库；K3 模型文档；SWE-1.7；Composer 2.5 | 33 完整谱系 |
| Hy3-preview → Hy3 | Preview 模型卡；Hy3 模型卡；正式公告 | 35 完整谱系 |
| MiniMax M1 → M2.7 → M3 | M2 report；MSA report；M3 模型卡 | 36 完整谱系 |
Runtime、KV 与数据中心
- vLLM 官方文档：运行时语义、prefix cache、分布式执行。
- SGLang 官方文档：前缀复用、调度和结构化生成的工程参考。
- Gemma MTP 官方文档：多 token prediction 的配置与运行时边界；完整机制见 21。
- Mooncake：KV-centric P/D disaggregation 的 FAST 2025 公开系统论文。
- RTP-LLM：2026 大规模服务栈、PD、层级 KV 和多模态说明。
- Scaling Pain、ZCube：2026 生产系统经验与数字，作为厂商技术报告阅读。
- NCCL 官方文档、TensorRT-LLM 文档：collective、量化和 runtime 细节。
开权重、托管 API、缓存与可靠性
| 对象 | 一手来源 | 在 Mainline 中的位置 |
|---|---|---|
| 开权重 self-host | Kimi K2 deploy guidance；K3 发布与待交付边界；Qwen vLLM recipe；Hy3 repo；各模型卡。 | 38 自部署 |
| OpenAI / Google / xAI / Kimi 托管控制面 | OpenAI Batch；Gemini cache；xAI cache；Kimi K3 模型与 cache 文档。 | 39 托管 API |
| 缓存与 Agent 状态 | PagedAttention；Mooncake；DeepSeek user_id / rate limits。 | 40 cache / Agent |
| 容量、区域与可靠性 | OpenAI data controls；Vertex Provisioned Throughput；Robust LLM Training Infra。 | 41 可靠性 |
Omni Inference 资料线
Omni Inference 以 2026-08-07 可核验的代码与文档为版本边界。vLLM-Omni 固定到 release v0.26.0、commit a4ea67a21b20054dacc6e83952f9bd407e8ee4e7；其独立系统论文使用的是更早的 vLLM 0.12.0 实验实现，论文数字只按论文中的模型、硬件和请求集合解释。代码路径与当前支持状态来自固定 commit、官方文档和release。
SGLang-Omni 固定到 commit 7daa5be3aa0e2c3787eb1bc371594ea277191b61；release 0.1.0 的 tag commit 为 8e272bcb8832ef1a3865ec48255d36f4871ec885，当前依赖 SGLang 0.5.16。该项目没有独立论文，本站只引用官方仓库、架构文档、release、官方博客、RFC 和 issue。接口或 backend 出现在源码中，只说明该版本存在对应实现入口，不自动证明所有模型、并发、硬件与跨节点组合已经完成生产验证。
资料线中的论文题名、短引、实验数字和链接用于独立技术解释；不复制论文、仓库文档或 issue 全文。论文谱系是按 Omni serving 问题组织的精选集合，不声称覆盖所有多模态、语音、视频或 diffusion 系统论文。
Systems for ML 论文目录快照
mental2008/awesome-papers 的 Systems-for-ML 目录是人工整理的 GitBook，并非自动爬取的论文全集。Mainline 基于 2026-07-15 的 commit ccaaf4a 生成快照：专题快照保留 226 条目录记录，统一 Inference 资料页列出其中 204 条可规范化的论文或代码入口。快照保留上游归属和 MIT 许可证说明，但不复制上游笔记、图片或论文正文。入口见 42 · 系统论文目录。
网络、互联、存储与 DPU：2026 公开基线
| 对象 | 一手来源 | 在 Mainline 中的位置 |
|---|---|---|
| Ethernet Scale-up | OCP ESUN 1.0：2026-03 的公开规范发布，涵盖 lossless、拥塞控制、链路级 retry、小消息和多跳 scale-up。 | 22、24 |
| Ultra Ethernet | UEC Specification History：当前公开版本是 1.0.2（2026-01-28），用于版本边界，不用营销名替代具体语义。 | 23、24 |
| 推理 fabric | OCP Aligned AI Inference Fabric Reference Architecture（2026-04）：多租户、前后端流量、RDMA 后端、控制面与运维参考。 | 26、29 |
| NCCL / DPU / 设备接口 | NCCL 官方文档与硬件/网络厂商文档用于核验 collectives、设备亲和性、DMA 与卸载边界；不把二手文章的内部实现写成事实。 | 25、27、30 |
Agentic serving 的论文边界
“模型会调用工具”只是 Agentic serving 的入口。阅读基础系统论文、2026 年新论文、开源 runtime 和厂商报告时，需要分别核对发表时间、是否经过同行评审、实验使用的模型与硬件，以及实现是否公开。17 Agentic serving 研究页按这些条件整理材料；09解释工具调用如何影响 KV、scheduler 和 SLO。
多模态、diffusion text 与 diffusion media
知乎 AI Infra 学习树
知乎 AI Infra 学习树在原有 LLM inference 快照上重新审查并扩展。候选来自登录态站内搜索、问题下的相邻高赞回答、评论热度、作者系列文章和公开网页索引；赞同、收藏与评论只用来发现值得检查的材料，不用来证明技术结论。
目录按性能账本、GPU 算子、执行引擎、状态与缓存、运行时策略、并行通信、数据中心、Agent 与多模态 Runtime 八层组织。从 CUDA/GEMM/Triton/CUTLASS 开始，向上连接 PCIe、NVLink、NCCL、RDMA/RoCE、集群调度、checkpoint、P/D 分离和媒体流水线。没有通过核验的分类允许留空，不用泛新闻、课程广告、AI 改写稿或厂商口号填数。
每条记录至少连接一份论文、标准、官方文档、官方仓库或模型卡。“一手参考”只说明它能核对条目的核心机制或提供实现背景，不表示它替第三方文章背书，也不自动证明文章里的生产规模和性能数字。
质量分三档：核心材料能够支撑主线学习，并可直接回到固定版本源码、论文、标准或实验条件完整的官方材料；推荐材料的机制可靠，但版本、实验或实现细节不够完整；补充材料只承担历史背景、概念分类或选材入口。训练专用材料单独标作“训练旁线”，不伪装成推理系统的直接证据。本站仍只保存元数据和链接，不复制文章正文、图片、Cookie、登录态或个人资料。
第三方专栏的使用方式
相关公众号内容目录主要来自用户提供的 25 个官方 WeChat album，并完整翻取了各 album 的分页。按 2025–2026 年筛选后得到 210 条目录记录；与第三方公开的 2025 账号快照及用户在 2026-07-16 提供的 4 条近期原始链接合并去重，主表现有 170 条，其中 2025 年 126 条、2026 年 44 条。这些数字只描述当前可复查的来源，不能视为账号的全部发文。
官方集合涉及推理系统、数学基础、GPU/Tensor、分布式系统、AI 加速器互联、云基础设施、RDMA、DPU、存储、网络架构、可编程网络、MPI 和 DPDK。第三方数据补充至 2025-10-27，另有 4 条直接文章链接。可公开枚举的记录收在 六条技术 track 中；网络和基础设施的解释从 22 延伸至 30，Agent 科研与 AI4Science 工作流见 32。
这里不是内容镜像，不复制第三方全文、图片或表格。文章提到的模型结构和系统数字会优先用本页 A/B 级来源核对；查不到一手依据的内容会明确标作解读或推测。
如何阅读一个数字
吞吐、TTFT、ITL、cache hit rate、成本、GPU 数和“加速倍数”离开实验条件就没有可比性。阅读数字时至少要核对模型版本、权重/KV 精度、GPU、节点拓扑、输入输出长度、并发、batch 与 prefix hit 设置、是否计入网络和采样，以及统计量是均值还是 P99。条件不全的结果只能用来判断大致方向。
横向比较与机制追踪
19 前沿模型横向比较将 Qwen3.5、Kimi K3、MiniMax M3、DeepSeek-V4、GLM-5.2 和 Gemma 4 放到总参数、活跃参数、上下文、模态、开放状态和运行时约束同一张账上。20 Attention 与条件记忆则将 full/sparse/linear attention、Engram、mHC-Lite 和实际的 KV cache / 网络数据路径分开处理。