单流

单流是一种处理不同模态信息的网络架构设计，与双流 Dual-stream 对比的示例：

提示词：一只小狗坐在草地上。

模型需要处理两类信息：

• 文本信息，小狗、草地、坐着；
• 图像信息，生成过程中不断更新的图像潜在特征；

双流 Dual-stream：

单流 Single-stream：

以上仅概念示意，具体模型的融合方式和注意力机制可能不同。

双流结构通常让不同模态先经过相对独立的计算分支，再进行交互或融合。单流则把不同模态的特征放入统一的 Transformer 主干中处理。

Qwen-Image-2.1 就是单流架构，但使用了特殊的 Block-causal Attention：

• 文本采用 Token 级因果掩码。

• 图像采用块级双向掩码。

• 静态输入的 KV Cache 可以复用。

这种设计使模型能够统一处理信息，同时避免在每一步生成中重复计算全部静态条件。