pi0 原来早就被淘汰了?6 分钟速览 Discrete Diffusion 最新论文
之前的 VLA 方法大致可以分成几类:有的在 VLM 后面接一个 MLP 动作头,有的接连续扩散头,也有的走传统自回归动作生成路线。 这些方法都能工作,但有一个共同问题:动作生成模块往往被放在主干网络之外。也就是说,感知、语言理解和动作决策并不完全在同一个统一结构中完成。 这会破坏模型的端到端表征连续性和推理统一性。更 …
之前的 VLA 方法大致可以分成几类:有的在 VLM 后面接一个 MLP 动作头,有的接连续扩散头,也有的走传统自回归动作生成路线。 这些方法都能工作,但有一个共同问题:动作生成模块往往被放在主干网络之外。也就是说,感知、语言理解和动作决策并不完全在同一个统一结构中完成。 这会破坏模型的端到端表征连续性和推理统一性。更 …
为什么 Flow Matching 能成为 VLA 的主流方法之一?这篇笔记想用 pi0 的架构,把它背后的直觉讲清楚。 在讲 Flow Matching 之前,需要先回顾一下 diffusion 的思想。 先理解 diffusion:从噪声中还原 扩散模型的完整逻辑由两个过程组成: 正向扩散:不断加噪声,把清晰样本破 …