知乎 AI Infra

1. Z001
   ✓vLLM 内部：高吞吐量 LLM 推理系统解剖

   知乎专栏文章 · 技术长文 · 核心 · 中级 · 2026-04 · 系列 1/2 · 核验 2026-08-08
2. Z002
   ✓vLLM 内部：高吞吐量 LLM 推理系统解剖（二）

   知乎专栏文章 · 引擎解剖 · 核心 · 高级 · 达坦科技 DatenLord · 2026-03 · 系列 2/2 · 核验 2026-08-08
3. Z003
   ✓（万字长文）说说大模型中的推理加速技术

   知乎专栏文章 · 技术长文 · 推荐 · 中级 · 2025 · 核验 2026-08-08
4. Z004
   ✓面向大模型推理的模型与系统协同优化

   知乎专栏文章 · 技术长文 · 推荐 · 高级 · 2026-03 · 核验 2026-08-08
5. Z005
   ✓AI Infra源码入门：大模型是如何高效推理的

   知乎专栏文章 · 机构技术文章 · 核心 · 中级 · 腾讯技术工程 · 2026-05-25 · 核验 2026-08-08
6. Z006
   ✓拆解大模型几项核心操作背后的数学与 Infra 优化逻辑

   知乎专栏文章 · 机构技术文章 · 推荐 · 中级 · 腾讯技术工程 · 2026-06-17 · 核验 2026-08-08
7. Z007
   ✓大模型高效推理漫谈

   知乎专栏文章 · 技术综述 · 补充 · 入门 · 核验 2026-08-08
8. Z008
   ✓以 DeepSeek 为例怎么算 AI 推理的算力需求

   知乎专栏文章 · 容量规划文章 · 推荐 · 中级 · 2025 · 核验 2026-08-08
9. Z009
   ✓vllm v1 源码精读（二）：generate() 计算流——model.forward() 在哪里被调用？

   知乎专栏文章 · 源码分析 · 核心 · 高级 · marsggbo · 2026-07-07 · 核验 2026-08-08
10. Z010
    ✓vllm v1 源码精读（三）：KV Cache 管理、Chunked Prefill 与异步架构

    知乎专栏文章 · 源码分析 · 核心 · 高级 · marsggbo · 2026-07-14 · 核验 2026-08-08
11. Z011
    ✓vllm v1 源码解析（四）：插件系统——用 Python entry_points 实现零侵入扩展

    知乎专栏文章 · 源码分析 · 核心 · 高级 · marsggbo · 2026-07-14 · 核验 2026-08-08
12. Z012
    ✓nano系列：nanochat、nanoclaw、nano-vLLM、Mini-SGLang 梳理与对比

    知乎专栏文章 · 学习型实现综述 · 推荐 · 入门 · 2026-03 · 核验 2026-08-08
13. Z013
    ✓大模型推理加速：KV Cache 和 GQA

    知乎专栏文章 · 原理讲解 · 核心 · 中级 · 2024 · 核验 2026-08-08
14. Z014
    ✓vLLM V1 代码走读：KV Cache 管理

    知乎专栏文章 · 源码分析 · 推荐 · 高级 · 2025 · 核验 2026-08-08
15. Z015
    ✓AMD × LMCache：基于 AMD GPU 的 LMCache 推理加速

    知乎专栏文章 · 厂商技术文章 · 核心 · 高级 · 2026 · 核验 2026-08-08
16. Z016
    ✓SSD 对 AI 推理中 KV Cache 的贡献与架构解析

    知乎专栏文章 · 厂商技术文章 · 补充 · 中级 · 2026 · 核验 2026-08-08
17. Z017
    ✓Scaling Pain：超大规模 Coding Agent 推理实践

    知乎专栏文章 · 生产实践 · 推荐 · 高级 · 2026 · 核验 2026-08-08
18. Z018
    ✓SGLang原生支持昇腾，新模型一键拉起无需改代码

    知乎专栏文章 · 平台技术文章 · 推荐 · 高级 · 2026 · 核验 2026-08-08
19. Z019
    ✓PD 分离的一点思考

    知乎专栏文章 · 系统分析 · 推荐 · 高级 · 核验 2026-08-08
20. Z020
    ✓重新定义大模型智能推理：Volcano 社区发起 Kthena 子项目

    知乎专栏文章 · 项目技术文章 · 推荐 · 中级 · 2026 · 核验 2026-08-08
21. Z021
    ✓Kthena + vLLM-Ascend：云原生大模型推理的编排与调度实践

    知乎专栏文章 · 项目技术文章 · 核心 · 高级 · 2026-04 · 核验 2026-08-08
22. Z022
    ✓vllm v1 源码精读（五）：Speculative Decoding 的完整计算流

    知乎专栏文章 · 源码分析 · 核心 · 高级 · marsggbo · 2026-07-15 · 核验 2026-08-08
23. Z023
    ✓大模型推理加速——Fastest Speculative Decoding in vLLM with Arctic Inference and Arctic Training

    知乎专栏文章 · 项目技术文章 · 推荐 · 高级 · 2025 · 核验 2026-08-08
24. Z024
    ✓大模型推理优化技术-KV Cache量化

    知乎专栏文章 · 论文与实现综述 · 核心 · 高级 · 吃果冻不吐果冻皮 · 2024-10-31 · 核验 2026-08-08
25. Z025
    ✓大模型量化技术原理：QoQ量化及QServe推理服务系统

    知乎专栏文章 · 论文与实现综述 · 核心 · 高级 · 吃果冻不吐果冻皮 · 2024-11-20 · 核验 2026-08-08
26. Z026
    ✓目前针对大模型进行量化的方法有哪些？

    知乎回答 · 方法综述 · 补充 · 入门 · 2023 · 核验 2026-08-08
27. Z027
    ✓vLLM MoE 调优手册（上篇）：TP、DP、PP 与 Expert Parallelism 实战指南

    知乎专栏文章 · 工程指南 · 核心 · 高级 · 2026 · 系列 1/2 · 核验 2026-08-08
28. Z028
    ✓vLLM MoE 调优手册（下篇）：TP、DP、PP 与 Expert Parallelism 实战指南

    知乎专栏文章 · 工程指南 · 核心 · 高级 · AMD中国 · 2025-12-20 · 系列 2/2 · 核验 2026-08-08
29. Z029
    ✓Transformer 中的专家混合模型（MoE）

    知乎专栏文章 · 源码与原理讲解 · 核心 · 中级 · 2026-04 · 核验 2026-08-08
30. Z030
    ✓使用混合专家并行优化混合专家训练的通信

    知乎专栏文章 · 厂商技术文章 · 核心 · 高级 · 2026 · 核验 2026-08-08
31. Z031
    ✓大模型中的互联技术

    知乎专栏文章 · 系统综述 · 补充 · 入门 · 2024 · 核验 2026-08-08
32. Z032
    ✓KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式

    知乎专栏文章 · 项目技术文章 · 推荐 · 高级 · 2025 · 核验 2026-08-08
33. Z033
    ✓正式开源！美团 LongCat-2.0 同步开放国产卡推理代码

    知乎专栏文章 · 官方技术文章 · 核心 · 高级 · 美团技术团队 · 2026-07-13 · 核验 2026-08-08
34. Z034
    ✓LLM 确定性推理

    知乎专栏文章 · 系统技术文章 · 核心 · 高级 · 吃果冻不吐果冻皮 · 2025-10-13 · 核验 2026-08-08
35. Z035
    ✓深入 NVIDIA GPU：高性能矩阵乘法算子解构（一）

    知乎专栏文章 · 算子系列 · 核心 · 中级 · 达坦科技 DatenLord · 2026-01-19 · 系列 1/4 · 78 赞同 · 系列 1/4 · 核验 2026-08-08
36. Z036
    ✓深入 NVIDIA GPU：高性能矩阵乘法算子解构（二）

    知乎专栏文章 · 算子系列 · 核心 · 高级 · 达坦科技 DatenLord · 2026-01-31 · 系列 2/4 · 系列 2/4 · 核验 2026-08-08
37. Z037
    ✓深入 NVIDIA GPU：高性能矩阵乘法算子解构（三）

    知乎专栏文章 · 算子系列 · 核心 · 高级 · 达坦科技 DatenLord · 2026-02-10 · 系列 3/4 · 系列 3/4 · 核验 2026-08-08
38. Z038
    ✓深入 NVIDIA GPU：高性能矩阵乘法算子解构（四）

    知乎专栏文章 · 算子系列 · 核心 · 高级 · 达坦科技 DatenLord · 2026-03-08 · 系列 4/4 · 系列 4/4 · 核验 2026-08-08
39. Z039
    ✓Nsight Systems 工具原理与 GPU 性能优化实战详解

    知乎专栏文章 · 性能分析 · 推荐 · 中级 · 鹅厂架构师 · 2025 · 核验 2026-08-08
40. Z040
    ✓Triton入门笔记（二）：flash attention的Triton/CUDA对比（前向传播部分）

    知乎专栏文章 · 代码分析 · 核心 · 高级 · kios · 2024-10-10 · 64 赞同 · 核验 2026-08-08
41. Z041
    ✓Triton写算子：Flash attention v2（入门版）

    知乎专栏文章 · 算子教程 · 推荐 · 中级 · Arthur · 2025 · 核验 2026-08-08
42. Z042
    ✓CUTLASS 笔记 (2)：混合精度 GEMM kernel

    知乎专栏文章 · 源码笔记 · 核心 · 高级 · 杨远航 · 2025 · 核验 2026-08-08
43. Z043
    ✓从循环到融合：理解 Fused MoE 算子原理（一）

    知乎专栏文章 · 算子系列 · 推荐 · 中级 · 达坦科技 DatenLord · 2025 · 系列 1/3 · 核验 2026-08-08
44. Z044
    ✓从循环到融合：理解 Fused MoE 算子原理（二）

    知乎专栏文章 · 算子系列 · 推荐 · 中级 · 达坦科技 DatenLord · 2025 · 系列 2/3 · 核验 2026-08-08
45. Z045
    ✓从循环到融合：理解 Fused MoE 算子原理（三）

    知乎专栏文章 · 算子系列 · 推荐 · 高级 · 达坦科技 DatenLord · 2026-03-14 · 系列 3/3 · 核验 2026-08-08
46. Z046
    ✓腾讯混元 AI Infra 核心技术重磅开源：推理吞吐提升30%

    知乎专栏文章 · 官方工程复盘 · 推荐 · 高级 · 腾讯混元 · 2026-02 · 核验 2026-08-08
47. Z047
    ✓腾讯混元AI Infra如何优化 Hy3 Preview：一次大模型推理性能提升的技术拆解

    知乎专栏文章 · 官方工程复盘 · 推荐 · 高级 · 腾讯混元 · 2026-07 · 核验 2026-08-08
48. Z048
    ✓PPQ量化框架梳理与源码解析（下）

    知乎专栏文章 · 源码分析 · 补充 · 中级 · 2024 · 核验 2026-08-08
49. Z049
    ✓PCIe P2P

    知乎专栏文章 · 内核与总线 · 核心 · 中级 · coolboy · 核验 2026-08-08
50. Z050
    ✓Notes about NVLink and NVSwitch

    知乎专栏文章 · 互联笔记 · 补充 · 入门 · 蜜小风 · 2026-04-09 · 核验 2026-08-08
51. Z051
    ✓如何理解 Nvidia 的多 GPU 通信框架 NCCL？

    知乎回答 · 通信原理 · 核心 · 中级 · 谭旭 · 约 1.3K 赞同 · 核验 2026-08-08
52. Z052
    ✓Ring All-reduce VS. Tree All-reduce

    知乎专栏文章 · 通信原理 · 核心 · 中级 · HELLO · 2022-02-23 · 核验 2026-08-08
53. Z053
    ✓NCCL Test

    知乎专栏文章 · 实验教程 · 推荐 · 中级 · 衣口田 · 2023-02-01 · 核验 2026-08-08
54. Z054
    ✓Primus-Pipeline：更灵活、可扩展的流水线并行实现

    知乎专栏文章 · 官方工程文章 · 推荐 · 高级 · 训练旁线 · AMD中国 · 2026-03-12 · 核验 2026-08-08
55. Z055
    ✓借助动态上下文并行和 NVIDIA Megatron Core 加速可变长度训练

    知乎专栏文章 · 官方技术文章 · 推荐 · 高级 · 训练旁线 · NVIDIA英伟达中国 · 2026-03-14 · 核验 2026-08-08
56. Z056
    ✓论文阅读笔记：parallelkittens

    知乎专栏文章 · 论文笔记 · 推荐 · 高级 · Arsmart · 2025-12-14 · 核验 2026-08-08
57. Z057
    ✓RDMA技术发展（2020-2026）：一场高性能网络进化史

    知乎专栏文章 · 网络综述 · 核心 · 高级 · 达坦科技 DatenLord · 2026-05-31 · RDMA 科普系列 · 系列 1/2 · 核验 2026-08-08
58. Z058
    ✓RDMA技术发展（2020-2026）：一场高性能网络进化史（二）

    知乎专栏文章 · 网络综述 · 核心 · 高级 · 达坦科技 DatenLord · 2026-06 · 系列 2/2 · 核验 2026-08-08
59. Z059
    ✓RDMA的历史包袱：一场高性能网络进化史

    知乎专栏文章 · 网络综述 · 推荐 · 高级 · 达坦科技 DatenLord · 2026-05-15 · 40 赞同 · 核验 2026-08-08
60. Z060
    ✓AI智算中心破局：全面解析双平面解决方案与网络架构演进

    知乎专栏文章 · 厂商架构文章 · 补充 · 高级 · 星融元 Asterfusion · 2026-07-27 · 核验 2026-08-08
61. Z061
    ✓Volcano v1.14 重磅发布！迈向 AI 统一调度新纪元

    知乎专栏文章 · 官方版本解读 · 推荐 · 高级 · 训练旁线 · 华为云开发者联盟 · 2026-02-13 · 核验 2026-08-08
62. Z062
    ✓基于时间的公平共享实现 Kubernetes 集群 GPU 分配均衡

    知乎专栏文章 · 官方调度文章 · 核心 · 高级 · NVIDIA英伟达中国 · 2026-05-08 · 核验 2026-08-08
63. Z063
    ✓规模化稳定性：AMD 面向大模型训练的全栈平台

    知乎专栏文章 · 官方工程文章 · 推荐 · 高级 · 训练旁线 · AMD中国 · 2025-11-30 · 核验 2026-08-08
64. Z064
    ✓Ray异构融合底座重构数据管道：架构演进与万卡落地实践

    知乎专栏文章 · 生产案例 · 推荐 · 高级 · 训练旁线 · DataFunTalk · 2026-02-06 · 核验 2026-08-08
65. Z065
    ✓陈巍：DeepSeek 开源Day（5）3FS&smallpond深入分析

    知乎专栏文章 · 源码分析 · 核心 · 高级 · 陈巍 · 2025-04-14 · 核验 2026-08-08
66. Z066
    ✓AI算力集群评估整体方案

    知乎专栏文章 · 评估清单 · 补充 · 中级 · 训练旁线 · 码夫祥子 · 2025-11-23 · 核验 2026-08-08
67. Z067
    ✓如何将数学问题的推理速度提升 4 倍

    知乎专栏文章 · 官方实验 · 核心 · 高级 · NVIDIA英伟达中国 · 2025-11-27 · 核验 2026-08-08
68. Z068
    ✓Tair 联手 SGLang 共建 DeepSeekV4 分层缓存架构

    知乎专栏文章 · 上游工程文章 · 核心 · 高级 · 千问云 · 2026-06-17 · 核验 2026-08-08
69. Z069
    ✓普惠 DeepSeek-V4：Kthena + 昇腾 3 分钟搭建 PD 分离推理

    知乎专栏文章 · 部署复现 · 核心 · 高级 · 华为云开发者联盟 · 2026-05-15 · 核验 2026-08-08
70. Z070
    ✓EMNLP'23｜不用额外模型，LLM 自己给自己加速——Self-Speculative Decoding 原理详解

    知乎专栏文章 · 论文解释 · 核心 · 高级 · marsggbo · 2026-06-30 · 核验 2026-08-08
71. Z071
    ✓企业 Agent 的桌面级推理底座：边缘算力与推理引擎技术实践

    知乎专栏文章 · 边缘实践 · 推荐 · 中级 · 滴普科技 DEEPEXI · 2026-07-08 · 核验 2026-08-08
72. Z072
    ✓轻松部署！在 NVIDIA Jetson AGX Thor 上使用 Docker 部署 vLLM 推理服务

    知乎专栏文章 · 部署教程 · 推荐 · 入门 · 丽台科技 · 2025-11-13 · 核验 2026-08-08
73. Z073
    ✓使用 NVIDIA TensorRT LLM 部署 MiniMax M2/M2.1 稀疏 MoE 大模型

    知乎专栏文章 · 部署实验 · 核心 · 高级 · 丽台科技 · 2026-01-28 · 核验 2026-08-08
74. Z074
    ✓FloE：让巨无霸 MoE 模型在普通 GPU 上‘轻盈起舞’

    知乎专栏文章 · 论文解释 · 核心 · 高级 · 北方的郎 · 2025-05-13 · 核验 2026-08-08
75. Z075
    ✓智能路由引擎，重塑推理性能与效率

    知乎专栏文章 · 生产机制 · 补充 · 高级 · 硅基流动 · 2026-04-30 · 核验 2026-08-08
76. Z076
    ✓vLLM × ROCm：ROCm 已成为 vLLM 生态的一等支持平台

    知乎专栏文章 · 官方 Runtime 文章 · 核心 · 高级 · AMD中国 · 2026-02-01 · 核验 2026-08-08
77. Z077
    ✓CES 2026｜NVIDIA TensorRT Edge-LLM 加速汽车与机器人领域的 LLM 和 VLM 推理

    知乎专栏文章 · 官方 Runtime 文章 · 核心 · 中级 · NVIDIA英伟达中国 · 2026-01-09 · 核验 2026-08-08
78. Z078
    ✓Qwen3-ASR开源：够稳定，能流式，多语言！

    知乎专栏文章 · 官方模型发布 · 推荐 · 中级 · 千问 / Qwen Team · 2026-01-29 · 核验 2026-08-08
79. Z079
    ✓消费级显卡可以快速上手跑！面壁智能MiniCPM-o 4.5发技术报告

    知乎专栏文章 · 技术报告解读 · 推荐 · 高级 · 量子位 / 面壁智能 · 2026-04-28 · 核验 2026-08-08
80. Z080
    ✓MetaCompress：面向多轮对话的视觉Token压缩新范式

    知乎专栏文章 · 论文解释 · 核心 · 高级 · 烛之文 · 2026-03-26 · 核验 2026-08-08
81. Z081
    ✓多模态技术梳理：Qwen-VL系列

    知乎专栏文章 · 架构前置 · 推荐 · 中级 · 姜富春 · 2025 · 核验 2026-08-08
82. Z082
    ✓对话王利民：从水乡少年到视频大模型领跑者，十五年磨一剑，让AI看懂动态世界

    知乎专栏文章 · 研究访谈 · 补充 · 高级 · 极市平台 · 2026-04-03 · 核验 2026-08-08
83. Z083
    ✓ICLR 2026｜华科大&小米联合提出 ThinkOmni：免训练协同解码，让纯文本推理模型在全模态场景下推理

    知乎专栏文章 · 论文解释 · 推荐 · 高级 · 极市平台 · 2026-03-02 · 核验 2026-08-08
84. Z084
    ✓长视频推理为什么总翻车？Symphony给出的答案是认知分工

    知乎专栏文章 · 论文解释 · 推荐 · 高级 · 唐国梁 Tommy · 2026-03-25 · 核验 2026-08-08
85. Z085
    ✓PixelRush：基于单步扩散模型的超高速高分辨率图像生成技术

    知乎专栏文章 · 论文解释 · 推荐 · 高级 · 烛之文 · 2026-02-24 · 核验 2026-08-08
86. Z086
    ✓如何将ComfyUI工作量包装成API服务

    知乎专栏文章 · 服务实践 · 推荐 · 中级 · 达坦科技 DatenLord · 2026-04-13 · 核验 2026-08-08
87. Z087
    ✓求教，研0如何入门ai infra?

    知乎回答 · 学习路线 · 推荐 · 入门 · 捕数的杰哥 · 2025-08-22 · 91 赞同 · 347 收藏 · 相邻回答交叉推荐 · 核验 2026-08-08
88. Z088
    ✓如何判断候选人有没有千卡GPU集群的训练经验？

    知乎回答 · 全栈问题地图 · 推荐 · 高级 · 训练旁线 · 菽陌松囿 · 2025-11-17 · 1,660 赞同 · 91 评论 · 2,879 收藏 · 核验 2026-08-08

当前分类里没有匹配条目。

知乎目录只保存标题、作者、日期、原始链接和核验入口，不转载正文。热度只用于发现候选；一手参考用于核对机制和实现背景，不替第三方文章背书。收录规则见证据与来源。