|
|
金磊 发自 凹非寺/ i2 g z# ?* `
量子位 | 公众号 QbitAI
7 E9 }9 H! I' } {. V9 X9 z# F# |; j
不得了,机器人现在开始学会脑补未来了。1 I0 @( O/ q% A1 Y: E' c$ X
这就是蚂蚁灵波又又又又(连续第4天)开源的狠活儿——; ?# J3 \+ [2 N7 w" _7 [" ?. i; B3 z
全球首个用于通用机器人控制的因果视频-动作世界模型,LingBot-VA
% R7 U6 _+ k6 W1 w
* O; B! [( u; Y" h) m* p
$ O) y. n5 O# k+ T: ]" z. I0 B& g& n: T
怎么个脑补法?
; K ]7 u8 {5 |4 H: F. Y8 w简单来说啊,以前的机器人(尤其是基于VLA的)干活儿,主打一个条件反射:眼睛看到什么,手立刻就动一下。
8 {7 y& a1 i: z5 Y/ T$ |) o! c, O这叫“观察-反应”模式。
' `" F% a; o; c& T, ^/ f8 C/ V但LingBot-VA就不一样了,它通过自回归视频预测打破了这种思考方式,在动手之前,脑子里先把未来几秒的画面推演出来。
+ P+ c% ~; t) O. |8 ]+ F. K/ R说实话,用想象力做决策,在机器人控制这块还是相当新鲜的。$ ^/ Z) q3 w2 y
但这不是LingBot-VA唯一的亮点,还包括:
) J5 N$ F- I% p! q8 r, K1 h: e5 q, U) ^0 @. H
! u1 E7 z5 v4 Q& V( t0 {, p- 记忆不丢失:做长序列任务(比如做早餐)时,它会记得自己刚才干了什么,状态感知极强。( k1 @" w* k) {4 B$ o7 s( [
- 高效泛化:只要给几十个演示样本,它就能适应新任务;换个机器人本体,也能hold住。) w5 P0 a$ U. B; Q
; I' |! G- q! B: v' f
- A" y1 L! e9 `- K3 R; H+ C$ U
# e- S+ _1 F4 d! d- V; f2 k" I- s& p/ t8 U8 x! i& e
因此在LingBot-VA的加持下,像清洗细小的透明试管这种高精度任务,机器人已经是可以轻松拿捏:, c# L# r& B, }( V; o% ~
9 B4 g2 n7 R+ W2 O* W$ [3 _. o7 x
1 o4 K4 x) L( _视频地址:https://mp.wEIxin.qq.com/s/xqE6C72usddKMc4EH89myA0 }) b% _& k1 o2 l
正如我们刚才提到的,今天是蚂蚁灵波连续第四天开源。
- P5 S3 q5 q( F7 p如果说前几天的开源是给机器人加强了眼睛(LingBot-Depth)、大脑(LingBot-VLA)和世界模拟器(LingBot-World),那么今天的LingBot-VA,就是让这具躯壳真正拥有了灵魂7 _' h+ p9 Y& J! ]
一个行动中的世界模型,让想象真正落到执行层面。: h' i# z; J( {. b( r) S
如此一来,通用机器人的天花板,算是被蚂蚁灵波往上顶了一截。, @; J% b. d* d7 K; l, @& v6 @
正如网友所述: a( c# L# ?9 g+ B( X) V
" D2 w, p# ~2 F
0 r: A. O9 P1 J$ J9 [* D6 }
' L1 N! b2 \) C; f% Y
- 从预测到执行;说实话这是巨大的飞跃。9 J1 G7 S8 t8 w1 c3 k
& j4 \! x8 m0 \# F
$ d4 S* Y# l+ E" o
) o( e( R3 B6 q7 A1 P5 v& m) r
0 w4 [: n8 h& @! i8 N
/ O0 I) R. ?" {+ M6 ]/ G$ O2 |3 v
让想象力先行一步" U8 f9 c, m% S
; t8 e. u: F& h% j' \$ M r, v/ \; ]2 m; _& k
LingBot-VA在架构设计上选择了一条更进一步的路径。
7 N; k( O) h& s# @6 L5 N+ l在传统的VLA(视觉-语言-动作)范式中,模型通常会将视觉理解、物理变化推理、低层动作控制这三项复杂任务放在同一个神经网络中处理,这在学术界被称为表征缠绕(Representation Entanglement)。
% A. ]* R0 g6 S5 C为了追求更高的样本效率和更强的泛化能力,LingBot-VA选择把这团乱麻解开,提出了一套全新的解题思路:先想象世界,再反推动作。* c+ _+ p( J8 H( \% a
为了实现这个想法,蚂蚁灵波团队采用了一个两步走的策略:
# |7 `& |" T6 S) ]( R, @3 _; x& y- `3 I3 w+ H6 ?- y3 w
+ V3 N6 R1 F; ~$ n: t D7 @6 w- 视频世界模型:先预测未来的视觉状态(接下来会发生什么)。
( w8 A8 Q6 w$ Z& x$ V6 _ - 逆向动力学(Inverse Dynamics):基于视觉的变化,反推出应该执行什么动作(为了达到这个画面,手该怎么动)。. A" B- [5 F7 J
1 G; y" ^0 H, q9 q5 D! a这与传统VLA有着本质区别:它不直接从“现在”跳到“动作”,而是要经过一下“未来”这个步骤。" j9 _& [1 h+ ?) j( l: S
如何实现?蚂蚁灵波团队主要将三个架构层面作为突破口。
8 w4 i( i5 d" B0 a6 G$ x* v- G
' {" J, N9 Q: N7 X
& e4 M( {7 h. s$ S1 R/ V5 R
- i6 B! s! L: `6 H/ z首先就是视频与动作的自回归交错序列9 g7 } ~6 |3 w2 }" M1 s" ^' L p6 f
在LingBot-VA的模型里,视频Token和动作Token被放进了同一条时间序列里。
. H" } {+ n& t. u5 v- ?为了保证逻辑严密,团队引入了因果注意力(Causal Attention)。这就像给模型定了一条死规矩:只能用过去的信息,绝对不能偷看未来。0 T" K% z8 @7 k* n1 O- U
同时,借助KV-cache技术,模型拥有了超强的长期记忆。它清楚地知道自己三步之前做了什么,任务绝对不会失忆。
3 N, U# z# w3 J1 ] E: l& m. T
5 _/ m/ r( Z$ o: q) t% ?6 T' D j7 H; ^0 [
* b$ d- v. M0 V" N5 J) S$ k其次是Mixture-of-Transformers (MoT) 的分工协作
" Q5 L0 P4 V. ]7 v/ ]' }1 }这一步主要是为了解决我们前面提到的表征缠绕的问题。( j# Y7 @ g5 |4 \+ T: q7 f1 L
我们可以把过程理解为“左右互搏”,但又很默契的一种配合:
% ?: E6 G. o' Y/ L; N W' w+ f" p; \
0 b% h/ | u$ `2 g/ P1 X' a4 B- F6 K1 F6 m" }
- 视频流:宽而深,负责繁重的视觉推演。
# w( f0 C7 ^* X1 p; S! v% m - 动作流:轻而快,负责精准的运动控制。5 @4 [' m0 H# F: m8 D
: e$ Y+ [3 c* X1 M
这两个流共享注意力机制,信息互通,但在各自的表征空间里保持独立。
. \" v; L/ n" ?) Y& V/ V7 D这样一来,视觉的复杂性不会干扰动作的精准度,动作的简单性也不会拉低视觉的丰富度。5 V( u/ e: T$ o
最后就是工程设计相关的工作。" y: C) ]% Y0 k4 v* o$ w3 c
毕竟光有理论是不好使的,“实践才是检验真理的唯一标准”:( l: K3 k% A, [9 p. k6 W
3 ?5 N3 T' _ y6 d4 Z+ Z8 \
2 }( O& y2 P7 l! f# o- 部分去噪(Partial Denoising):做动作预测时,其实不需要每一次都把未来画面渲染得高清无码。模型学会了从带有噪点的中间状态里提取关键信息,计算效率大大提升。. Z. B& v' ]4 t8 L/ t8 |
- 异步推理(Asynchronous Inference):机器人在执行当前动作的时候,模型已经在后台疯狂计算下一步了。推理和执行并行,延迟感几乎消失。
6 z' [' r: n& e9 p1 v - FDM 接地(Grounding):为了防止模型想象力脱离现实,系统会用真实的观测数据不断校正想象,避免出现开放式的幻觉漂移。: } U, L$ Z, U; V0 C5 k6 u
实验结果与能力验证
/ Q% ~: A0 @) u* U) | ^! ^" ?
! m' V; }% S1 \8 U
, Q% y0 L3 ~, f9 x% ?: Q在了解完理论之后,我们再来看实验效果。. _2 e* D( n6 B N" Z
蚂蚁灵波团队在真机实验和仿真基准上,对LingBot-VA进行了全方位的实测。5 r; T# J& `. W
在真机测试中,LingBot-VA覆盖了三类最具挑战性的任务。8 k8 Z/ ]" \7 [- K
首先是长时序任务,比如准备早餐(烤面包、倒水、摆盘)、拆快递(拿刀、划箱、开盖)。
4 r% P9 N3 v+ u' ?- D
7 ^" T1 Q" o# |5 ?0 p2 x) o* b
6 i' F' Q8 w# A
0 n1 G: Y( o" M. o) v视频地址:https://mp.weixin.qq.com/s/xqE6C72usddKMc4EH89myA
9 {% d, R* G1 R这些任务步骤繁多,但凡中间有一步有误,那可以说是满盘皆输。从LingBot-VA的表现来看,一个字,
8 u! N" L! o- G7 n1 B/ M即便是不小心失败了,机器人也会记得进度,尝试重来。/ ` z! H0 d- M! f
第二类是高精度任务,比如擦试管、拧螺丝。
$ w# j2 x: `" {
) ]% T d$ @- L+ ~
( g# [! G' o2 W# J& f- p* j# a
; M) I: j; z3 H* G" l视频地址:https://mp.weixin.qq.com/s/xqE6C72usddKMc4EH89myA" ?: ~7 m6 Q% B# L
这要求动作精度达到毫米级,得益于MoT架构,动作流不再受视觉噪声的干扰,手极稳。 [1 s z& i2 ^* K- u/ x, V
刚才我们已经看了擦拭管的案例,再来看个拧螺丝的:" i' R$ M+ z* U- U
第三类任务是针对可变形物体,例如折衣服、折裤子。
% Q% T# f" }9 z/ T" o+ P# o
! ?0 s9 ]* u9 U
% ~6 ?0 j, o' E
# _7 r4 s! Y' X$ ^( D e% o9 d
视频地址:https://mp.weixin.qq.com/s/xqE6C72usddKMc4EH89myA
$ |* d W' ^" T7 x- E( R这些任务的难点在于物体处于一个随时变化的状态,但LingBot-VA通过视频推演,预判了布料的形变,操作行云流水。
" j+ g- ]/ I, m! Y0 W4 ?. ~除此之外,LingBot-VA在RoboTwin 2.0和LIBERO这两个硬核仿真基准上,也是很能打的。
I# }; R4 t- E5 |. ]尤其是在RoboTwin 2.0的双臂协作任务中,无论是简单的固定场景(Easy),还是复杂的随机场景(Hard),LingBot-VA都展现出了不错的实力:) ^6 i4 h4 d, b m8 l
7 ]7 |; K/ }2 S
# Q+ I( ~& n! Z( N/ Z' P- RoboTwin 2.0 (Easy):成功率92.93%,比第二名高出4.2%。
3 P8 y6 n% n+ e/ M- V" |- W' j' l - RoboTwin 2.0 (Hard):成功率91.55%,比第二名高出4.6%。
! v/ ?+ ~% r: P; U3 I; U+ d" g ^ ; C2 R" j7 k' O5 i9 d* l* v d
9 z: s0 D+ a# k- t3 I; t( p) X! h: X1 X0 |9 H/ Q9 B9 e2 g. m7 @
! r4 L- Q2 H& D; j* R
而且有一个趋势非常明显:) c0 R2 s* \, {# q
任务越难、序列越长(Horizon变大),LingBot-VA的领先优势就越大。
* I5 I; M3 C% }" F3 G: V* J在 Horizon=3 的长任务中,它的优势甚至扩大到了9%以上。. L# U- r9 k% N7 w
而在LIBERO基准测试中,LingBot-VA更是拿下了98.5%的平均成功率,刷新了SOTA记录。, R% x! ^; o1 u/ {
% K' K" E/ C7 S2 f; M" @4 V0 t$ z* n
5 l P$ M8 n9 M& _7 a
) R8 [$ H0 h# P1 j- J8 M总结一下,通过这些实验,我们可以清晰地看到LingBot-VA的三个核心特质:$ J# s$ S! v" N. X8 I
. W) Z' ^# K/ k9 I K' v& i
' t; }; L9 z- b& |( D
- 长期记忆:在一个来回擦盘子的计数任务中,普通VLA模型擦着擦着就忘了擦了几下,开始乱擦;LingBot-VA 则精准计数,擦完即停。这就是KV-cache的起到的作用。
9 g! w6 e3 ^) Q; c# _ - 少样本适应:面对全新的任务,只需提供50条左右的演示数据,稍微微调一下,它就能学会。这比那些动辄需要成千上万条数据的模型,效率高了几个数量级。
. ]* b V* I& |. C' _' }: G+ t ~ - 泛化能力:训练时用的是某种杯子,测试时换个形状、换个颜色,或者把杯子随便摆个位置,它依然能准确识别并操作。
9 B: ?+ I" e* h / p. p2 m- k6 G6 N6 @/ n$ }) S. v
9 `2 g' K9 X0 \( A2 f- i Z# G% ~1 x( j6 i# x- l
/ f1 @$ y F. @ R& I3 r h" `
+ l8 E6 O/ O, `8 U/ m% f. X$ o. i
连续四天开源,已经产生影响$ \3 O Y2 s* U$ P$ h+ s, }
" g$ M9 c# ?0 y# @" @5 _- R
# G. N6 ]1 W7 R" f X% H把时间轴拉长,回看这四天的连续开源,我们会发现蚂蚁灵波下了一盘大棋。# g' M' B4 y3 R! [# O$ E
因为这四个开源项目拼凑在一起,就会形成一条非常清晰的技术主线:* r$ b0 w) m7 v" E. V/ G2 I
1 a/ M6 M! o ]$ C$ F4 T9 x& K f& O2 ]8 ?2 u! P. M( ?
- Day 1: LingBot-Depth——解决“看清”的问题。让感知能够更加清晰。
1 C' y4 ~ O2 x% q) W% ~ - Day 2: LingBot-VLA——解决“连接”的问题。打通语言、视觉到动作的通用接口。
) ^$ A: w+ V4 ^: ?0 ]0 w - Day 3: LingBot-World——解决“理解”的问题。构建可预测、可想象的世界模型。. m8 e5 j1 C1 D- f. ^
- Day 4: LingBot-VA——解决“行动”的问题。把世界模型真正嵌入控制闭环,让想象指导行动。
- k: f, ]" c" _. x4 N+ t
% `* C' d9 B6 j这四块拼图凑在一起,释放了一个强烈的信号:) z1 m/ u* f1 n) y- m. O
通用机器人正在全面走向视频时代。, }! L+ G! \$ [+ v% J
视频,不再仅仅是训练用的数据素材,它正在成为推理的媒介,成为连接感知、记忆、物理和行动的统一表征。( P6 U w5 z7 {7 t% w E
这对于整个行业来说,价值是巨大的。0 Z8 `% R$ G5 @7 T% b
对通用机器人来说,长任务、复杂场景、非结构化环境,这些曾经的硬伤,现在有了系统性的解法。
$ t) D6 D3 |- h: I5 P% i! g6 T从具身智能路线来看,世界模型不再是一个可选项,它正式成为了机器人的中枢能力,从“能动”进化到“会想再动”。# M' d% F8 d& h c: J
并且蚂蚁灵波的持续不断地开源动作,不仅仅是提供了代码、模型这么简单,更是一条可复现、可扩展的技术范式。
) d5 B/ c$ O+ I+ r" U3 W. |而蝴蝶效应也在行业中开始显现。
9 `3 h; F' C# E* T; P就在这两天,谷歌宣布通过Project Genie项目让更多人体验Genie 3;宇树科技宣布开源UnifoLM-VLA-0……/ M7 f) o+ z6 f# }" z" \! ]
海外媒体也对蚂蚁灵波的开源动作有了不小关注,点评道:
$ ~4 d5 I' G/ R" l% J1 }# e
9 A7 b: G1 `$ J6 |! Q! W# M5 d9 p( ^: X; h4 {
2 V ?9 P- Q9 d; {- 蚂蚁集团发布了名为LingBot-World的高质量机器人AI模拟环境。这家中国金融科技公司完善了一套完整的开源工具包,用于物理AI系统的开发。这也是在全球机器人领域主导权争夺战中的一项战略性举措。
# l) o3 W0 q! Q, l$ k3 |) o; r
, h+ a! a. ^- C+ A y: o8 X
% m2 \2 C% W2 i% S/ t$ a
/ T' L' l. z. B/ q! |0 b; t1 k% D
5 \$ \, A( a. g% r嗯,蚂蚁灵波的压力是给到位了。
. S0 D4 U/ t- b总而言之,LingBot-VA的出现,标志着世界模型第一次真正站上了机器人控制的主舞台。
0 Y: v- y* |) {; k项目地址:/ N2 r" P# v! l) w" w
https://technology.robbyant.com/lingbot-va j$ g0 b! Z2 F4 d* L( P' `1 }7 q. d! w
GitHub地址:7 J$ |" _0 O u
https://github.com/robbyant/lingbot-va
/ n* n4 e3 u2 g7 U. w) s4 L$ ~& b项目权重:. U5 P( G" U5 E% `; W- R Y4 N% @. k
https://huggingface.co/robbyant/lingbot-va
0 u- g- P' j1 vhttps://www.modelscope.cn/collections/Robbyant/LingBot-va |
|