1. 三代不是三套同等公开的模型报告

3.5 和 3.6 提供权重、模型卡和推理框架入口，可以检查 config、算子并自行部署。3.7 是 API 产品，公开信息限于输入模态、模型名、上下文上限和平台契约。下表据此划定每个版本能讨论到哪一层。

版本公开状态架构/能力主线部署边界
Qwen3.5-397B-A17B2026-02，开放权重原生多模态、3:1 Gated DeltaNet / Gated Attention 混合、MoE、MTP。可按官方卡用 Transformers/vLLM/SGLang。
Qwen3.6-35B-A3B2026-04，开放权重沿用 Qwen3.5 家族的模型类型与混合路径，强化 agentic coding / thinking。公开自部署配方；不能把它和 dense 27B 混成同一 MoE config。
Qwen3.6-27B2026-04，开放权重dense 变体，和 35B-A3B 的专家并行账本不同。可自部署，但应单独测显存与吞吐。
Qwen3.7-Max / Plus2026-05/06，托管产品Max 文字模型，Plus 支持图像/视频输入与 1M context 产品能力。未找到对应开放权重、参数或 technical report；只能写 API 行为。

2. Qwen3.5 的模型图：hybrid attention 不是‘把 full attention 删掉’

Qwen3.5 把三层 Gated DeltaNet（线性/状态型注意力）和一层 Gated Attention（full attention）交织。线性路径把长历史写进递推状态，full-attention 路径保留显式 token-to-token 信息交互；两者结合的目标是在长上下文和多模态 token 下降低每层完全二次 attention 的比例，而不是宣称模型不再需要 cache 或高带宽内存。

路径Qwen3.5 已披露组成为什么会影响 runtime
Hybrid attention每四个 block 中，三个 Gated DeltaNet linear-attention block 配一个 Gated Attention full-attention block。不必在每层支付相同 full-attention 二次项；但 full-attention 层、状态表示和 kernel 仍决定长上下文成本。
MoE397B-A17B：512 experts、10 routed + 1 shared；每个 token 只走选中的 experts。EP 的 all-to-all 与热门 expert 仍可能成为 decode/长 prefill 的尾延迟来源。
多模态early fusion，沿用 Qwen3-VL 视觉 encoder / 多分量 RoPE。视觉 token 从 prefill 的第一步就进入主干，不能在服务账本中忽略。
MTP公开模型卡中包含多 token prediction。应以 acceptance length、验证 batch、TPOT 来判断是否有效。
Qwen3.5 官方模型卡中的 benchmark 图
原始/官方图：一手来源。图来自官方模型卡，记录开放 Qwen3.5 的公开评测，而非结构图。本节依据模型卡 config 解释 3:1 hybrid attention 与 MoE；不能把这个评测图外推到没有公开层图的 Qwen3.7。
3:1 hybrid stack 的直觉： 3 × [state update / linear-attention work] + 1 × [full-attention work] 长序列成本由 full-attention 层的 KV、线性路径状态、MoE 路由、视觉 token 和 kernel 共同决定。

3. 从预训练到 agent RL：应该问‘哪一层变了’

Qwen3.5 是从头训练的 interleaved text/image/video 基础模型，公开材料也写到了 agent 训练与异步 RL。分析 benchmark 时要把改动落到具体阶段：多模态预训练改变表示，SFT 训练格式和指令遵循，RL/agent environment 调整长轨迹策略，runtime 决定这些轨迹跑起来要花多少资源。

Qwen3.6 的公开资料强调 agentic coding 与 thinking preservation，并注明它和 Qwen3.5 共享 architecture/model type。现有证据支持把 3.6 写成数据、训练目标、能力和 serving support 的更新；模型卡没有列出的 router、head 或 KV layout 变化，不应从版本号推断。

保留思考的工程含义：API 或 chat template 若要求保留 reasoning token，输出预算、缓存命中和工具轮次都会变化。评测要统计全部 token，不能只数最终答案。

4. Qwen3.6：MoE 35B-A3B 与 dense 27B 不能共用同一部署账本

35B-A3B 是稀疏模型：router 选 experts，分布式推理还要安排 EP；27B 是 dense 变体，所有 FFN 权重在每 token 执行。它们都可属于同一个混合注意力模型类型，但瓶颈会不同：35B-A3B 可能受 all-to-all、expert imbalance 和 grouped GEMM 影响；27B 更接近常规张量并行的 dense decoder。

因此‘35B 比 27B 大’不能预测吞吐。有效比较需要固定精度、context、batch、TP/EP mesh、prefix-cache 状态和输出长度。长 prompt 的 prefill 与一 token decode 还会呈现完全不同的占用率。

5. Qwen3.7：把未知结构留空，仍可完整解释托管产品

官方产品页列出 Qwen3.7-Max 和 Qwen3.7-Plus；Plus 支持图像、视频输入，并标注 1M context。调用端据此可以规划 payload、媒体处理、token 预算、限流、工具 schema 和重试。至于它是否沿用 Qwen3.5 的 Gated DeltaNet、3.6 的 MoE 形状或某种 GPU mesh，公开资料没有答案。

只提供 API 的模型只能验证行为契约和配额，不能检查 paper-level architecture。托管 API 页面以同一规则处理 OpenAI、xAI、Google、DeepSeek、Z.ai 和 MiniMax。

6. 自部署 Qwen3.5/3.6：从模型卡到可测系统

  1. 选择 checkpoint：记录 revision、量化、processor 和 chat template；多模态模型还需固定图像/视频 tokenization。
  2. 选择 runtime：官方仓库和 vLLM recipe 给出 Transformers、vLLM、SGLang、KTransformers 等路径。它们是运行兼容性证据，不等于一个 engine 复现所有官方 benchmark。
  3. 选择 parallelism：先用 TP 分摊层内 GEMM，再为 MoE 变体规划 EP；高频 EP traffic 应尽量留在高带宽域。
  4. 决定 MTP：打开后记录 proposed / accepted tokens、target forward 次数和 p95 TPOT，而不是只看吞吐峰值。
  5. 处理缓存：prefix cache 的 key 必须包含 tokenizer、模型 revision、processor、模板和模态输入规范，否则命中会给出语义错误的状态。

当工作负载改成视频、agent 或 1M prompt 时，需回到 多模态 runtime、KV 和 数据中心 KV 页，而不是只加更多 GPU。

7. 面向产品选择的最小验证矩阵

问题必须固定的变量应记录的输出
长文本 codingrepo snapshot、context、工具、最大步骤数成功率、token、TTFT、TPOT、cache hit、重试
多模态理解resize、抽帧、音频采样、媒体 token 上限预处理耗时、视觉 prefill、显存与质量
MoE 服务TP/EP mesh、batch、expert placementexpert imbalance、all-to-all、p95/p99
Qwen3.7 API请求 schema、模型 ID、区域/配额、版本日期可观察的 API 行为；不虚构内部结构

8. 从 hybrid attention 到实际 kernel：该测哪些中间量

Qwen3.5 的 3:1 混合栈使‘每 token 算力’不能由一个 attention FLOPs 公式表示。应分别测 DeltaNet/state-update、Gated Attention 的 KV gather/softmax、MoE router/dispatch、expert GEMM、视觉 prefill 和 MTP verify。只有把这些阶段按 prefill / decode、batch=1 / continuous batching、短 / 长 context 切开，才能判断长上下文收益是来自模型结构、kernel、缓存命中还是调度形状。

阶段应记录常见误读
长 prompt每类 attention kernel、视觉 token、index/state bytes把 prefill 吞吐当 decode latency。
单 token decodeHBM read、KV gather、router/all-to-all、MTP acceptance只按 active 参数预测 TPOT。
连续 batchingbatch composition、prefix hit、fairness、p99把吞吐峰值当每个请求的体验。

9. 一手来源

一手来源本页用来核验什么
Qwen3.5-397B-A17B 模型卡397B-A17B、混合 attention、MoE、上下文和运行入口。
Transformers Qwen3.5 / 3.6 文档3.6 与 3.5 共享 architecture/model_type 的公开边界。
Qwen3.5/3.6 官方仓库发布、self-hosting、工具/推理 parser 入口。
Qwen 官方产品页 与 API 平台Qwen3.7 托管能力与其不公开的边界。
vLLM 官方 Qwen recipe公开运行时的 TP、MTP、prefix cache 配置示例。