|
|
i# k0 Y6 e. m6 U
7 g- g4 k+ G+ ~ r, ^7 Q7 {
/ B, t7 u* ? K+ a; r. T5 q% e
在长期以来的 AI 研究版图中,具身智能虽然在机器人操作、自动化系统与现实应用中至关重要,却常被视为「系统工程驱动」的研究方向,鲜少被认为能够在 AI 核心建模范式上产生决定性影响。
9 o2 D1 n5 u$ w$ w% P而 ReconVLA 获得 AAAIOutstandingPaper Awards,释放了一个清晰而重要的信号:让智能体在真实世界中「看、想、做」的能力,已经成为人工智能研究的核心问题之一。" J* G2 [7 @( l3 [- A0 u
这是具身智能(Embodied Intelligence / Vision-Language-Action)方向历史上,首次获得 AI 顶级会议 Best Paper 的研究工作。这是一次真正意义上的 community-level 认可:不仅是对某一个模型、某一项指标的认可,更是对具身智能作为通用智能核心范式之一的肯定。, B7 o2 z0 X6 h
- i+ I J( t1 z( o. I( h% {5 Y
: j5 y9 S: s4 s! a( U
: `: B7 e4 k+ n: |
8 U0 d q; }8 \ ~4 p
( E1 j9 `5 {' m) i9 J
- 论文标题:ReconVLA: Reconstructive Vision-Language-Action Model as Effective Robot PercEIver
2 ~8 t( x* ?' \1 F& A - 论文地址:https://arxiv.org/abs/2508.10333' C% f9 J; ?5 @9 |$ X: S0 w
- 论文代码:https://github.com/Chowzy069/Reconvla! S& U) w" `: z3 M
! H7 {6 I! I( g- a u
VLA 模型关键瓶颈:机器人真「看准」了吗? 1 E- R+ H; S- v: H
+ G. r' Y+ H* ^8 t, q$ x' @8 o: b
2 ~6 b- @( `' n* M8 E i5 E
近年来,Vision-Language-Action(VLA)模型在多任务学习与长时序操作中取得了显著进展。然而,我们在大量实验中发现,一个基础但被长期忽视的问题严重制约了其性能上限:视觉注意力难以稳定、精准地聚焦于任务相关目标。9 w% i% Z) g# B" U
以指令「将蓝色积木放到粉色积木上」为例,模型需要在复杂背景中持续锁定「蓝色积木」和「粉色积木」。但现实中,许多 VLA 模型的视觉注意力呈现为近似均匀分布,不同于人类行为专注于目标物体,VLA 模型容易被无关物体或背景干扰,从而导致抓取或放置失败。
% k3 q8 z' `7 D, U1 ?! t* o已有工作主要通过以下方式尝试缓解这一问题:
4 [5 j# w( b9 N" c& n
7 ~/ b/ P2 ]6 n1 a4 B. k7 J1 L1 p8 l9 G1 |
- 显式裁剪或检测目标区域(Explicit Grounding)
) n6 v9 p; z4 v4 @$ ^ - 预测目标边界框作为中间输出(COT Grounding)
. q, P a& P3 O {$ ^6 O
2 \8 x* {0 L$ j0 O9 n k$ R然而,这些方法并未从根本上改变模型自身的视觉表征与注意力分配机制,提升效果有限。# [# ?0 j D2 o) k* o, |
ReconVLA:重建式隐式视觉定位的新范式 ( I5 l8 Z- X* |, J% p
5 H6 ~8 Q9 y2 A g
$ \" s6 C$ s) b
为解决上述瓶颈,我们提出ReconVLA,一种重建式(Reconstructive)Vision-Language-Action 模型。其核心思想是:
, j/ P; Q" B. Q0 y9 Q0 }不要求模型显式输出「看哪里」,而是通过「能否重建目标区域」,来约束模型必须学会精准关注关键物体。
/ E% ^7 |. Q5 B* K+ \$ ^在 ReconVLA 中,动作预测不再是唯一目标。在生成动作表征的同时,模型还需要完成一项辅助任务:
2 t& V0 G( S. K/ b5 \重建当前时刻所「凝视」的目标区域 ----- 我们称之为 Gaze Region。1 \, t0 u' G2 Z6 C- D& u+ x
这一重建过程由轻量级扩散变换器(Diffusion Transformer)完成,并在潜在空间中进行高保真复原。由于要最小化重建误差,模型被迫在其内部视觉表示中编码关于目标物体的精细语义与结构信息,从而在注意力层面实现隐式而稳定的对齐。
' }- i# L6 i; j$ }2 Y& R这一机制更接近人类的视觉凝视行为,而非依赖外部检测器或符号化坐标监督。
/ s! Y* W5 r9 h8 x4 u4 W M2 x
2 z A. b$ V; A& Q
+ Y! R- E0 ~7 i/ _4 B: ^3 P7 h1 {% n) J) F V. N
方法概览
% v& l/ }& |3 P1 E* U4 w. ^
- I. c& G8 K$ q' k, x 5 y% C, [9 J0 s4 t
ReconVLA 的整体框架由两个协同分支组成:
% B3 d/ Z0 P, Y1 M" A: e1. 动作预测分支: 模型以多视角图像、自然语言指令与机器人本体状态为输入,生成动作 token,直接驱动机器人执行操作。
* ]4 ] c5 z# N& g1 p7 Z2. 视觉重建分支: 利用冻结的视觉 tokenizer,将指令关注的目标区域(Gaze region)编码为高保真潜在 token。主干网络额外输出同维度的重建 token,并以此作为条件,引导扩散去噪过程逐步复原目标区域的视觉表示。
0 I x, m4 U4 o4 w0 ?5 A重建损失在像素与潜在空间层面为模型提供了隐式监督,使视觉表征与动作决策在训练过程中紧密耦合。5 Y1 R1 }9 q; D3 W" b
& {7 Y! H# }7 Y$ R9 ^8 I
+ _" j# g! r3 l2 U
$ Z, A" t. }7 L* K2 l- L大规模重建预训练 7 I4 H+ w: Z2 U+ N; t
5 P1 R- \" l1 {. I) o* T + w3 }6 f. L+ ~2 k+ E
为赋予 ReconVLA 稳定的视觉重建与泛化能力,我们构建了一个大规模机器人预训练数据集:
# i- m7 }" A5 C# d5 O
3 w' g( y/ [6 U8 K- g2 P
8 \4 D' A! C/ ?, \2 b1 w, e+ y- 数据规模:超过 10 万条交互轨迹,约 200 万张图像。* C$ c: f/ L1 s5 L, W* H
- 数据来源:BridgeData V2、LIBERO、CALVIN 等开源机器人数据集。0 e. ?+ d( y) |( O7 Y2 |
- 自动化标注:利用微调后的 Grounding DINO 或 Yolo 等方式,从原始图像中自动生成指令对应的目标物体区域(Gaze region),用于重建监督。
; Q1 I3 P% s- r0 r- H 1 L+ x' g, r' X% V& T
该预训练过程不依赖动作标签,却显著提升了模型在视觉重建、隐式 Grounding 以及跨场景泛化方面的能力,并为未来扩展至互联网级视频数据奠定了一定基础。
% k7 v5 i$ }% e" O实验结果 ! p, J( d3 m1 F% j! |
* H1 `3 T% p" M6 w* [+ k7 t
, q- F+ b3 r! T' t
* q Y3 d8 Q- y# d在 CALVIN 仿真基准上,ReconVLA 在长时序任务中显著优于现有方法:
6 E! G, A& Y, b3 X! v6 Q/ ]) E# p% O# I3 C/ V1 F2 ^# S
0 u: I; S2 t2 ?/ o; m
- ABC→D 泛化任务:平均完成长度达到3.95,全面领先同期所有对比方法。& z* L. l; N: g8 e' m( N( v
- ABCD→D 长程任务:平均完成长度为4.23,完整任务成功率达70.5%。
6 x# j$ u) Q! A2 b' ?- b0 R
! t# y$ b5 O6 k1 G) K w值得一提的是,在 CALVIN 极具挑战的长程任务「stack block」上我们的方法成功率达到 79.5%,远高于 Baseline 的 59.3%,这说明我们的局部重建作为隐式监督的方法可以在复杂长程任务中实现更灵活的运动规划。
) h- w* e7 N9 \5 x. O+ u6 s& j
' |; Z1 Y2 }* h. u, V: u6 {
7 _ ?- I% r% h* }- c H- H
. X" `* z: N' a9 s, ~在真实机器人实验中,我们基于 AgileX PiPer 六自由度机械臂,测试了叠碗、放水果、翻杯与清理餐桌等任务。ReconVLA 在所有任务上均显著优于 OpenVLA 与 PD-VLA,并在未见物体条件下仍保持 40% 以上的成功率,展现出强大的视觉泛化能力。. N) k: q$ A. B i# \
5 y( P8 }- o: F- P
( K' s4 @) X$ E U- m, P# \% f5 J6 R4 G6 T$ P4 T8 |
对比于 Explicit Grounding 和 COT Grounding,ReconVLA 在 CALVIN 上获得了远高于前两者的成功率,由此可分析出:
4 p+ k! X) i& j4 M/ v; S: O仅用精细化的目标区域作为模型隐式监督可以实现更加精确的注意力,更高的任务成功率以及更简单的模型夹构。2 ?9 b4 f0 U+ s5 U, ^
v; J" _7 L- D" c# N$ @) T8 ?8 @$ C
0 q" Y% p4 F4 _& w, ^0 x& c6 k/ C8 r$ a$ |, |
而消融实验表明:
, D3 {# \+ t. K: Z4 Z1. 全图重建仍然由于仅有动作监督的基线,因为全图重建提升了模型的全局感知和理解能力。但由于视觉冗余使得在未知环境下难以展现更好的效果。
' W! {6 N/ u. V1 L5 x2. 重建目标区域(Gaze region)具有显著效果,这个机制使得模型专注于目标物体,避免被无关背景干扰。
& |/ i- P& u- T% n$ X3. 大规模预训练显著提升了模型在视觉重建,隐式 Grounding 及跨场景泛化的能力。
" o0 n5 `! S- l K" ^0 i% G' K总结 0 J" M4 ?, O J2 v, c
' W, [( M# K5 P0 S4 ^
( F3 h3 V7 g) V5 t" J4 T) g WReconVLA 的核心贡献并非引入更复杂的结构,而是重新审视了一个基础问题:机器人是否真正理解了它正在注视的世界。7 l! _ ?6 D# a" C
通过重建式隐式监督,我们为 VLA 模型提供了一种更自然、更高效的视觉对齐机制,使机器人在复杂环境中做到「看得准、动得稳」。: a$ u# c7 t# ?/ d
我们期待这一工作能够推动具身智能从经验驱动的系统设计,迈向更加扎实、可扩展的通用智能研究范式。 |
|