Papers

01 - 任务总览:本项目做什么,不做什么

项目定位

本项目是一个现代扩散模型推理学习与实现项目,位于 diffusion/ 子目录内,与旧 minivLLM/ 引擎完全隔离。

项目目标是从零理解现代扩散模型的推理路径,落地一个最小但完整的 diffusion_engine/,并在一块可用的 CUDA GPU 上跑通至少一个真实 reference inference。文档使用中文,以纯静态 HTML 发布,不做生产部署。

四个维度

维度目标状态
理解通过论文卡片、学习笔记、静态知识库,系统建立对 rectified flow、DiT/MMDiT、文生图/文生视频推理数据流的认识完成
实现从零构建最小 diffusion_engine/,覆盖 scheduler、rectified flow、DiT transformer block、text conditioning、pipeline、memory manager完成
运行可用的 CUDA GPU 上至少跑通一个真实文生图 reference inference;视频小规格尝试并如实记录 blocker脚手架就绪,环境未跑通
优化设计并运行 prompt cache、latent buffer、scheduler benchmark、CFG batching、attention memory、VAE tiling 对照实验完成

为什么不从老 DDPM/U-Net 学起

这里跳过 DDPM/U-Net 的入门路线,直接从 rectified flow 与 DiT/MMDiT 开始。原因很具体:

  1. 范围贴近当前模型:本文关注的 2024 年后模型(SD3、FLUX、Sana、CogVideoX、Wan2.1、HunyuanVideo)采用 rectified flow + DiT/MMDiT 范式。DDPM + U-Net 主要对应 2020-2022 年的模型路线,会引入 predicting noise vs predicting velocity、discrete vs continuous timestep、U-Net skip connection 等另一套概念。
  2. 概念更统一:rectified flow 在理论上更简洁,一条从噪声到数据的直线路径(或接近直线的路径),配合 ODE solver 完成采样。这比 DDPM 的 denoising score matching + Langevin dynamics 组合更容易建立直觉,也更贴近 LLM 领域的 "single forward pass per step" 风格。
  3. 与系统优化直接相关:DiT 的 full attention 在高分辨率下产生 O(N²) 瓶颈,是扩散推理的主要系统问题之一。老 U-Net 的卷积式注意力不会以同样方式暴露这个问题,无法直接对应后续的 attention memory benchmark。
  4. 时间效率:6 周时间内,如果先花 2 周学 DDPM/U-Net,那留给现代架构和系统优化的时间只剩 4 周,不够用。直接从现代范式切入,每样学一点就能看到整体画面。

最终成果是什么

6 周内完成的文件和实验如下:

知识库 (docs/)

学习资料 (learning/)

自写引擎 (diffusion_engine/)

实验 (experiments/)

报告 (reports/)

结论

这是一个现代扩散模型推理学习项目,入口是 rectified flow + DiT/MMDiT。6 周内完成了 13 页 HTML、10 篇笔记、10 篇论文卡片、一个最小可运行的 diffusion_engine/、5 组实验目录、6 份周报和一份最终报告。远程 GPU 环境尚未就绪,因此真实 reference inference 还没有运行;所需脚本已经写好。

和我的 diffusion_engine 的关系

本页只做索引,不讲实现。scheduler、DiT shape 和 CFG 分别在 02-11 页展开;项目范围和已有产出列在本页,具体实现见对应章节。