|
|
! W$ P9 d& Z; x6 W6 U
) x, o' p* _* ^$ x* g
; D3 p4 C$ ?$ [* o4 g这个情人节,Unitree G1 人形机器人解锁了 “求婚” 新技能。: B: N9 A& T( P+ j6 J3 C7 ]
]8 H! C9 R( J/ x3 {( D
' m$ ]- @0 c) z5 L
6 [6 q3 x5 _) K; o2 l在人类眼中充满仪式感的求婚动作,对于机器人来说其实是颇具难度的全身操作任务:既要维持重心稳定,又要保证手部动作的精准,这对机器人的全身协调能力提出了不小的考验。
; S, F2 X1 {5 k# S8 X' o, A这一浪漫场景的背后,是清华叉院、上海期智研究院、千寻智能与上海交通大学联合团队的最新研究成果 ——HuMI (Humanoid Manipulation Interface),一个集成了人形机器人便携式数据采集与多样化技能学习的通用框架:研究人员不再受困于繁琐的遥操作或昂贵的动捕环境,只需佩戴简单的追踪设备,就能高效教会人形机器人协调全身,完成复杂的操作任务 。7 W: Z2 a! [$ g/ o& b; h* |
, @* f1 |+ `1 e2 O( A& C
% n5 s7 V4 ~# S4 K7 z- N' x
8 { q, s- |3 {+ }7 n* [' P8 ^& e
& k% w# c8 v& n, v" K0 [! G
) }: [9 t9 U6 v) _- R/ g/ t1 \- 论文标题:Humanoid Manipulation Interface: Humanoid Whole-Body Manipulation from Robot-Free Demonstrations _( k2 ?/ w6 b# S A
- 论文链接:http://arxiv.org/abs/2602.06643
& A( o7 f o: J" I - 项目主页:https://humanoid-manipulation-interface.github.io
% y) p; ~2 C+ S% C& v _' I) V: b& v0 {- C3 O8 l$ e
教人形机器人学会全身操作,难在哪里?
* \. q- j- r8 d尽管遥操作是目前获取数据的主流方案,但其采集效率低下,对操作员的经验要求也较高;同时,由于无法脱离实体机器人,采集场景往往局限于实验室内部,难以获取支撑泛化的多样性数据。% u& U3 j% K9 A4 C, [& |( }5 `* i" T
相比之下,虽然 UMI 的 “无真机” 数采方案在机械臂上大获成功,但直接迁移到人形机器人时却面临如下难题:8 s3 q. z3 M# _ C) {
+ R; v3 i3 y8 r9 K
* W- u: t6 y! i7 m w
- 演示信息缺失:仅记录手持夹爪部轨迹无法约束全身姿态,机器人不知道向下抓取时该 “弯腰” 还是 “下蹲”;; j" A9 U' N1 t7 s5 | B" Y
- 人机构型差异:人与机器人的身体比例不同,简单的尺寸缩放会导致机器人与交互物体的空间错位;" K' b- c" r) H% O, a6 s
- 执行误差干扰:与机械臂的高精度不同,人形机器人的底层控制器往往存在较大的跟踪误差,导致高层策略规划的轨迹与实际执行脱节。
& W; U; W- M1 L o ; l5 [5 l' N% R- g! Y# R. T
' y# ]" m- V; A; O' Z9 g
# E8 P# B! Y- m% Z0 b4 U) X
. z+ @. R& J/ y: _/ qHuMI 系统的核心技术
/ x- ?' b/ s. j8 E- p针对人形机器人数据采集难、效率低的痛点,团队提出了 HuMI 系统。该系统通过硬件、交互与算法的协同设计,实现了低成本、高效率的人形机器人全身操作策略学习。
o8 `* Y7 S: j5 [7 f; u/ o1. 硬件设计:便携式穿戴设备& J& Y; o$ T) L3 ~) ^; p# ~
采集数据时,操作员仅需手持两个带有鱼眼 GoPro 相机的 UMI 手柄,并在手柄上、腰部和双脚佩戴 5 个 HTC Ultimate VIVE 追踪器。有了这套便携的设备,无需将笨重的实体机器人搬运到现场,即可在楼道、大堂等各种环境中采集全身动作数据,极大降低了数据获取的门槛。
7 u$ J; |" S; }7 \2. 数据采集:实时逆运动学预览: x5 x5 V" |# q, }5 r
+ X+ i, b0 P2 W& K$ g% _* ]. z5 m9 W# _6 o% K. a# _8 W
& J A6 q0 ]& J为了解决人机身体构型差异导致的动作不可用问题,HuMI 提供了实时逆运动学(IK)预览。采集数据时,操作员可以通过屏幕观察虚拟机器人做出对应动作的效果。如果人的动作超出了机器人的物理极限,操作员能立刻发现并调整姿态,从而确保采集到的数据物理可行。此外,重定向后的全身数据也会进一步用于底层控制器的训练。
! z9 R$ u5 o7 |0 D0 m( Y3. 算法架构:分层控制策略, Y6 ^2 h2 o5 A6 c( D% d$ q# d
- K% d" D- V! ^; ?4 Q8 S7 K
0 h- J" {. Y; _2 b
6 d: V; S; @8 Y' c% C6 P: rHuMI 采用高低层协同的分层式控制架构,通过精心设计的接口层将规划与控制模块有机串联,共同完成复杂的全身操作任务:# ~* q6 E$ @- Z% p
0 z7 E4 I% v3 E
. U# v+ g* R* `; b7 ]- 高层规划策略:基于 Diffusion Policy,利用手腕相机的视觉输入规划全身关键点轨迹;
+ |7 u4 V8 ~9 Z3 {4 l' k$ r; i - 底层控制策略:通过强化学习训练。在训练阶段,HuMI 设计了自适应的手部跟踪奖励,并引入了变速增强训练,使机器人能同时兼顾全身的协调平衡与手部的精准操作。+ E5 ]; k" B. y
5 h4 L3 K( x- t" c实验表现:多维任务验证 4 x# x. i1 Z& u h: ?( ?
团队在 Unitree G1 人形机器人上进行了多方面测试,从任务能力、泛化表现和采集效率三个维度验证了系统的有效性: q% v3 r% Y+ ]$ ]) h% d* n6 }! H
1.任务能力:HuMI 成功实现了五项颇具挑战性的全身操作任务:求婚(单膝下跪)、拔剑出鞘、投掷玩具、上前清理桌面以及下蹲拾取,展现了双臂协同、高动态、长距离移动操作等多方面能力,且均达到了 75% 以上的成功率。实验证明,机器人能够流畅地完成大幅度重心转移和精细的手部动作,保持了极高的平衡稳定性和动作连贯性。6 r z; G& R6 X# ]
( m9 Y! U+ G5 g% L
2.泛化表现:凭借便携硬件随时随地采集数据的优势,HuMI 能够轻松覆盖各种真实场景,为策略的泛化性打下了坚实基础。在下蹲拾取这一任务上的实验结果显示,机器人在会议室、电梯间、走廊等未见过的场景,面对未见过的瓶状物体时,仍能保持 70% 的任务成功率。上述实验表明,得益于便携式设备带来的数据采集规模与多样性,策略在复杂环境下具有出色的泛化能力。0 N* g1 ]# ?& {: ^6 L
4 g: Z. w" L( U& t# ^5 d1 @4 h/ C
' f; v/ u! l& F; R& N; y& G8 `1 ^
5 l4 V! c: k$ z8 d0 t! ?6 M3.采集效率:与传统遥操作模式相比,HuMI 在数据收集效率上展现出显著优势。由于摆脱了对机器人真机的依赖,系统的数据采集吞吐量提升至传统方式的 3 倍 —— 以拔剑任务为例,仅需 15 分钟即可快速收集 60 条有效演示数据。此外,HuMI 还扩展了动作采集的边界:在遥操作中,若底层控制器不支持单膝下跪等高难度动作,操作员便无法进行数据采集;而 HuMI 则能够摆脱真机限制,先行采集这类复杂动作。5 ]; e. E( ~+ X+ ^& \5 [$ ^$ ?3 }# S
% g; K( m# p ~! X- g2 r5 }HuMI 的核心价值在于打破了数据采集对机器人实体的依赖。通过全新的数据采集方式,HuMI 大幅降低了人形机器人数据的获取门槛与成本,在显著提升学习效率的同时,也为开发更具泛化性的通用人形机器人技能提供了有力支持。 d0 ~) \% O9 x% H$ K8 A
关于作者
0 |% P% u9 Q. s P# h该项目有三位共同一作:佴瑞乾,郑博远,赵俊铭。
0 A9 v# o9 A! q4 Z
. g: y5 _4 Q* U- i4 E3 `* O' G# d% Z0 W3 \
1 S0 P( ~7 n% f佴瑞乾是清华大学交叉信息研究院的四年级博士生,导师为高阳教授。他的主要研究方向为具身智能,致力于通过大规模数据使机器人能够感知、推理和学习。佴瑞乾已在 ICLR, ICRA, AAAI, NeurIPS 等多个机器人学和机器学习顶会发表论文,研究项目涵盖人形机器人,VLA,四足机器人等多个方向。
) j: S I Q/ `
0 ^7 J! P( f/ X) s
2 m! l- U! k4 h9 a1 c
; ?% [3 p- M6 N- o, N郑博远是清华大学交叉信息研究院的一年级博士生,导师为高阳教授。他的主要研究方向为具身智能,目前专注于通过人形机器人的全身协同控制,实现复杂多样的移动操作任务。郑博远已在 CoRL、ICLR 等多个机器人学和机器学习顶会发表论文。
( ]& ^' z* |$ |
) ^8 t* f4 y3 J! _" y" J3 { B+ i8 V) z: T" I* u, {
" A- ^3 C) F, N a, S! D) _赵俊铭是清华大学交叉信息院(IIIS)的一年级博士生,导师为高阳教授。他的研究聚焦于具身智能,致力于赋予机器人更通用和鲁棒的操作能力。他重点关注机器人操作数据的高效扩展及人形机器人的移动操作。此前的工作包括高效泛化的插入装配模型,以及融合自适应推理的 VLA 模型等。) \7 T" e7 L9 O4 ?
- P+ y3 w) J9 g2 g( ^; @* W6 E: J
7 }7 t% G' }" g; i8 p4 @; q* {
4 _6 n9 ?3 G8 L* j0 O2 S$ J0 N项目的通讯作者是清华大学交叉信息研究院助理教授、千寻智能联合创始人高阳,他主要研究计算机视觉与机器人学。此前,他在美国加州大学伯克利分校获得博士学位,师从 Trevor Darrell 教授。他还在加州伯克利大学与 Pieter Abbeel 等人合作完成了博士后工作。在此之前,高阳从清华大学计算机系毕业,与朱军教授在贝叶斯推理方面开展了研究工作。他在 2011-2012 年在谷歌研究院进行了自然语言处理相关的研究工作、2016 年在谷歌自动驾驶部门 Waymo 的相机感知团队工作,在 2018 年与 Vladlen Koltun 博士在英特尔研究院在端到端自动驾驶方面进行了研究工作。高阳在人工智能顶级会议 NeurIPS,ICML,CVPR,ECCV,ICLR 等发表过多篇学术论文,谷歌学术引用量超过 5000 次。 |
|