01 · MODEL ARCHITECTURE
模型架构：Transformer、attention、MLP 与 MoE
拆开语言模型的 block、状态和条件计算，并说明这些结构会给推理系统留下哪些约束。
打开完整解释model architecture, inference, multimodal, diffusion, datacenter systems
先读模型架构，再走进推理与数据中心
这里不按品牌或发布时间罗列模型。阅读从模型本身出发：token 或 latent 如何经过 Transformer、MoE、视觉编码器或 DiT，这些计算又如何落到 GPU、缓存和多卡通信上。数据中心里的延迟、吞吐、成本与可靠性，都是这条计算链继续向外延伸的结果。每张卡片对应一篇独立详解。
2026 证据规则：每页都区分“已公开的一手资料”“旧基础在 2026 的仍然有效部分”和“尚未获得官方技术报告的名称”。例如 DeepSeek-V4、GLM-5.2 只在来源可核实时写成模型事实；否则页面会解释传闻为何不足以支持架构结论。
一条因果主线
01 模型结构
这一层回答权重和计算图怎样组织：decoder block 如何连接 attention、MLP 与 MoE，模型家族又在哪些版本改变了注意力、专家、视觉主干、训练和生成头。
基础结构
10 · MULTIMODAL INPUT
多模态模型架构：媒体编码器、projector、LLM 与生成头
图像、音频和视频如何变成表示并进入统一主干，以及异构序列长度会怎样改变 runtime。
打开完整解释模型家族演进：架构、预训练、RL 与部署证据
版本号本身说明不了技术变化。这里逐项核对基础架构、继续预训练、post-training / RL、Agent 工作流、公开权重和托管 API，并标清哪些版本沿用同一 backbone，哪些只公布了 API 能力。
14 · GLM LINEAGE
GLM-5 → 5.1 → 5.2：DSA、Agent 与 IndexShare
从 DSA、28.5T 预训练与异步 RL 到 5.1 的公开 Agent 边界，再到 5.2 的 IndexShare、MTP 与 1M serving；同时分清基础架构与长程 Agent 后训练，不跨版本继承参数。
打开完整演进解释33 · KIMI LINEAGE
Kimi K2 → K2.5 → K2.6 → K2.7-Code 与 Composer
MoE/MLA 到 MoonViT、视觉 Agent、swarm RL、同架构 post-training；同时纠正 Cursor 1.7 / Composer 的名称混淆。
打开完整演进解释34 · QWEN LINEAGE
Qwen3.5 → Qwen3.6 → Qwen3.7
原生多模态 hybrid attention、MoE/MTP、自部署 3.5/3.6 与只能按 API 契约阅读的 3.7。
打开完整演进解释35 · HY3 LINEAGE
Hy3 Preview → Hy3
295B/21B active 的 MoE、GQA、MTP，如何经过基础设施重建、产品反馈、后训练与 RL 走向正式版。
打开完整演进解释36 · MINIMAX LINEAGE
MiniMax：Text-01/M1 → M2.7 → M3
从 hybrid Lightning 到 full attention + GQA MoE，再到 MSA block-sparse attention、Forge RL 与原生多模态。
打开完整演进解释37 · DEEPSEEK LINEAGE
DeepSeek V3 → R1 → V3.2 → V4，及 OCR → OCR-2
将 MoE/MLA、纯 RL、DSA、CSA/HCA、1M KV 与视觉因果流分成可验证的技术断点。
打开完整演进解释15 · GEMMA 4
Gemma 4：hybrid attention、PLE、Unified、MTP、QAT 与 DiffusionGemma
从首批 release 到 12B Unified 和端侧 QAT，并对照 AR decoder、MoE、MTP 与离散文本 diffusion 的状态和依赖。
打开完整演进解释13 · V4 DEEP DIVE
DeepSeek-V4：CSA/HCA、MoE、kernel、KV 和通信深挖
从公开事实进入 1M context 对模型结构、训练、内核、EP 重叠、KV tier 和 rollout 容错的影响；模型名与社区猜测不被当作技术报告。
打开 V4 专题19 · MODEL LANDSCAPE
2026 开放模型横向地图
把 Qwen、Kimi、MiniMax、DeepSeek、GLM 与 Gemma 的结构、上下文、版本公开程度和部署边界放回同一张证据地图，不把 API 名称误写成公开模型配置。
打开横向比较02 层内计算
模型图落到单层后，attention、MLP、专家路由、conditioning 和 residual 都会变成具体算子。这里先分清信息路径，再判断计算受 tensor core、HBM 带宽还是通信限制。
回到主线03 执行循环
这一层把静态模型图变成随时间推进的执行过程：prefill、逐 token decode、离散文本去噪、图像视频 denoise，以及 speculative draft/verify 各自维护不同依赖。
自回归、Diffusion 与投机执行
02 · TOKEN LIFECYCLE
Prefill、decode 与批处理的根本差异
同一个模型为什么在长 prompt 和逐 token 输出时像两个完全不同的系统。
打开完整解释11 · DIFFUSION TEXT
文本 Diffusion 模型：离散去噪、掩码与序列生成
以 LLaDA 和 DiffusionGemma 为例，解释固定 canvas、双向去噪、稳定前缀及其服务成本。
打开完整解释12 · DIFFUSION MEDIA
图像与视频 Diffusion 架构：DDPM、latent、DiT 与时空建模
沿着噪声 latent 到像素或视频的路径，核对模型组件、条件输入、去噪循环及其显存和调度代价。
打开完整解释21 · SPECULATION
Speculative decoding、draft-target 与 MTP
把接受率、临时 KV、验证算子和 MoE/多卡通信计入同一笔账，判断“一步多 token”在什么条件下能降低延迟。
打开完整解释31 · DSPARK
DSpark：半自回归草稿与置信度投机解码
将块内依赖、因果 admission、变长 verify、KV 事务和 TP/EP/MoE 通信放在同一条生产正确性链路。
打开完整解释04 GPU HBM 中的常驻与临时状态
执行循环会在 HBM 里同时留下权重、KV 或 latent 状态、activation 和通信缓冲。这里沿内存层级和数据生命周期判断容量、带宽、分页与迁移代价。
内存层级与 KV 生命周期
05 运行时策略
运行时根据请求阶段、缓存命中、SLO 和 Agent 暂停/恢复状态组织批次。调度目标不是单纯塞满 GPU，而是在吞吐、尾延迟、状态复用和公平性之间做可回滚的取舍。
回到主线06 并行与互联
当一个模型跨卡放置，TP、PP、EP、CP 的 collective 会落到 NVLink、NVSwitch、RoCE 或 RDMA。拓扑、拥塞、故障域和协议卸载决定并行策略在真实集群里能否成立。
并行放置与通信域
Fabric、协议与卸载
23 · RDMA
RDMA 可靠性、拥塞与尾延迟
从 QP/WQE/CQ 到 PFC、ECN、重传与 GPUDirect，解释 AI fabric 为什么会慢。
打开完整解释24 · AI ETHERNET
UEC、ESUN、SUE-T 与开放互联
端点、NIC、交换机、协议与 runtime 各自负责什么，哪些问题不会被标准自动解决。
打开完整解释26 · FABRIC
AI Fabric 拓扑、放置与 QoS
从 GPU-NIC affinity、rail 到 Clos、多租户和 128 卡部署，推导可运营的 fabric。
打开完整解释27 · DPU / NIC
DPU、NIC、CIPU 与协议卸载
将 DMA、IOMMU、队列、可靠传输、遥测和隔离放回 CPU/GPU/NIC 的真实职责边界。
打开完整解释30 · PROGRAMMABLE
MPI、DPDK、RDMA 与可编程网络
区分通信库、设备数据面和控制面；明确哪些卸载能改善 AI 系统，哪些会损害语义和隔离。
打开完整解释07 数据中心控制面
最外层负责模型放置、KV 路由、P/D 分离、存储、故障恢复、成本与租户隔离。模型卡、启动命令、API 文档和基础设施材料提供的证据层级不同，这里分别标清自部署与托管服务的可见边界。
资源编排、存储与观测
08 · DATACENTER
PD 分离、远端 KV 与全局路由
把 KV cache 当数据中心资产管理：放置、复用、迁移、失效和故障域。
打开完整解释18 · OPERATIONS
训练和推理共用一座集群时怎样不互相伤害
资源碎片、优先级、checkpoint、弹性并行、热模型与冷模型部署。
打开完整解释28 · STORAGE
3FS、网络化存储与分布式恢复
客户端、metadata、storage 和 RDMA 如何协作；checkpoint、远端 KV 与训练数据为何不能混为一谈。
打开完整解释29 · OBSERVABILITY
AI Fabric 观测、可靠性与故障演练
从 CUDA/NCCL timeline 一直追到 NIC、交换机、光模块和 PFC storm，形成可操作的 SLO。
打开完整解释部署方式与可靠性边界
38 · SELF-HOST
开权重模型自部署
GLM、Kimi、Qwen、Hy3、DeepSeek、MiniMax、Gemma、gpt-oss 与 Grok-2 的 checkpoint、量化、TP/EP、MTP 和 P/D 阅读方法。
打开自部署页39 · HOSTED API
托管模型 API 的公开控制面
OpenAI、xAI、Google、DeepSeek、Z.ai、MiniMax、Hunyuan 的 Batch、cache、tool、配额和版本契约，不从 API 猜 GPU 机架。
打开托管 API 页41 · RELIABILITY
容量、区域与可靠性
从 SLO、429、Batch、模型迁移、数据驻留、容量预留到自建 KV/worker/fabric 故障恢复。
打开可靠性页Inference 资料
论文导读、Systems for ML、公众号文章和证据说明统一放进一份紧凑目录，不再在这里逐项铺开。
Inference 资料32 篇完整论文解释 · 226 条 Systems for ML · 170 条公众号目录 回到主线使用方式
第一次读
- 01 模型结构先说明 Transformer、MoE、多模态编码器、projector、LLM 和生成头怎样组成模型。
- 02 层内计算继续拆 attention、MLP、专家和 GPU 算子。
- 03 执行循环与 04 显存状态把模型图落实为 prefill、decode、denoise、KV、activation 和通信缓冲。
- 05 运行时策略处理 batching、cache reuse、QoS 和 Agent 生命周期。
- 06 并行与互联连接 TP/PP/EP/CP、collective、NVLink、RoCE、RDMA 与 AI fabric。
- 07 数据中心控制面处理模型放置、PD 分离、存储、观测、部署与故障恢复。
- 参考资料保留论文目录、来源映射、相关公众号内容和 AI/Agent 科研方法，不改变七层因果顺序。