|
|
) j$ {$ s2 o8 G* q3 r: Y; h, H8 G: ?; V8 y0 X3 F- q
# a. K- K' L/ W7 H, ~9 h/ ^1 p还在用 DragGAN、DragDiffusion 拖拽修图?点选拖拽容易变形、边界割裂、细节丢失的时代落幕了!ECCV 2026 ICRDrag 首创上下文区域拖拽模型,用掩码精准定位局部区域,移动、缩放、变形全都丝滑自然,兼顾精准度与画面真实感。: {+ @. R" D0 H$ ~% g9 n9 T
( z- g; o% t2 s/ b9 b! M& Z
4 V% s1 l; }7 u! s: x% Z7 p
: U0 c6 G2 Q1 \( k8 u& V: l0 b. p! H9 d2 R- f4 e4 `
% X! H2 N* O4 J2 C! r
- Paper: https://arxiv.org/pdf/2606.25907
/ r* r5 S, W" c3 ]$ U+ y% }* O - GitHub: https://github.com/bcmi/ICRDrag-Region-Drag-Editing
, v# H9 R- }; T# }/ |5 t - Demo: https://drag.ustcnewly.com/% a% G2 ?+ K, z' G% C0 G- c
: j( b! g( n! b, _效果展示
+ A3 [/ L4 f/ d先看编辑效果,每一组图像左边蓝色掩码是源区域,右边红色掩码是目标区域。拖拽编辑旨在把源区域拖拽到目标区域,其他区域除了必要的跟随性改动 (比如嘴巴动了,下巴也要跟着动) 之外,细节尽量保持不变。可以看出 ICRDrag 对于各种类型图片的姿态和形状调整都能轻松拿捏。1 P9 b- V0 g |! l A5 a! c
$ Q6 [# [; T- ?" u% P
; M9 ?, F7 T& d! F# A% w* j8 T2 Q) | N5 H5 F6 `- Y8 x+ b
下面视频是 demo 展示,用户可以用不同颜色画出多对源区域和目标区域 (目前最多支持 5 对),把多个源区域拖拽到对应的目标区域。如果其他区域出现了不想要的改动,可以在其他区域增加类似锚点的源区域和目标区域,锁定其他区域。: j$ x' `6 z( c# h# ~& R: R0 h
体验链接:
/ ^% B& F/ h+ W/ zhttps://drag.ustcnewly.com/, Y5 ?7 l0 O9 L2 O' D
/ ]8 `, K: f: h% h3 i% j
直击痛点 ' r' _) ?2 L4 K; @8 B! ?: G% S
传统拖拽修图,到底有多难用?玩过 AI 拖拽编辑的朋友一定踩过这些坑:1 O; Y: q. d- D* L, v
1 t) w! R- F* n" h: P: w/ a9 J8 _7 j' d! u7 u: F+ |
- 基于单点拖拽:主流点拖拽模型比如 DragGAN, DragDiffusion 仅靠少量点对控制画面。点对信息模糊,AI 经常猜不透你的想法。点越少歧义越大,想要精准调整物体形态基本靠碰运气,很难严格对齐目标位置。. }7 B2 R" A4 r: p/ g$ V2 Z
- 现有区域拖拽:后来出现的 RegionDrag, DragFlow 等模型改用掩码控制区域,但缺陷依旧明显:物体拖拽后边缘断层,和背景融合生硬;复杂的形状姿态调整完全 hold 不住。
8 F( I6 ?' H/ g : L" c( g0 K& [; {$ R$ H
$ x: N6 C3 j1 M6 t- H& m+ M/ f4 M
1 A; I9 }; s' a0 m, }
1 J) b) ]# g8 H3 I5 X上下文区域拖拽7 O" C8 T! C/ @3 D% t
本次 ECCV2026 提出的 ICRDrag(In-Context Region-based Drag)全新解法:上下文区域拖拽,真正实现「选啥改啥」。
! |# A9 `' o" c! G3 O$ [, a0 o ~7 n7 R3 \1 u% w
5 `% O' n8 s2 x6 o9 F" R0 M
- 上下文学习框架:基于 DiT 上下文学习框架,一次性输入原图、源区域掩码、目标区域掩码,直接输出编辑完成的图片,从底层解决拖拽编辑的控制难题。/ t4 f. h7 v7 f0 s5 I6 x
- 图像 - 掩码注意力一致性约束:目标图像在借鉴原图信息时,注意力分布必须和目标掩码匹配源掩码的分布保持一致。AI 不再割裂看图片和选区,生成画面严格贴合掩码划定的空间轮廓。- V% d- C( |- t0 T6 D2 t& S- c
- 源 - 目标双向注意力对应约束:目标物体看向原图对应区域,原图区域也反向关注目标物体,建立编辑前后物体的对应关系。
) |4 ^+ ]( `" H* _2 I$ @3 q2 C0 t - 图片 / 掩码专属模态 LoRA:图像富含纹理细节,掩码仅存储空间轮廓,二者的性质差别很大。ICRDrag 为图像、掩码分支使用独立 LoRA。4 I+ W7 p% E# }) E) ^- u* ~3 x
- 分阶段课程式训练:现实使用中,用户勾勒的掩码往往比较粗糙。模型采用两阶段渐进式训练:第一阶段用完整语义掩码训练,让模型学会区域变换逻辑;第二阶段用稀疏不完整掩码训练,随机膨胀模拟手绘粗糙选区,大幅提升模型容错率。哪怕掩码画得潦草,AI 依旧能精准理解你的编辑意图。
. Y! M h1 `7 f4 y1 j
6 W& B) J' N. X8 ~" b
- s( L$ ]/ f1 N: n v3 r% Z2 H, n- C1 T3 o
8 C; u* V- |' u区域拖拽大规模数据集
& `8 C+ ^. v, D6 G为了训练 ICRDrag 模型,该工作基于百万级视频数据集 OpenVid,打造了首个大规模区域拖拽数据集 PRD (Paired Region Dataset),补齐领域空白:
& L( v% F9 t- B4 ?# h6 w) k) D3 m0 y5 L7 E4 ~' g8 |; B
2 s- ^+ L& v: L' C- 训练集:28.7 万组「原图 + 源掩码 + 目标图 + 目标掩码」配对样本,如下图所示。下图中,左栏是原图、源掩码、从源掩码采样的部分区域,右栏是目标图、目标掩码、从目标掩码采样的部分区域。
4 g* f; _( l: p! D: q - 评测基准 PRDBench:1000 组人工校验高质量样本,同时标注掩码 + 关键点,可公平对比点拖拽、区域拖拽两类模型。6 ?: I4 {: j" b2 d. J( Q
& t4 [$ g4 t" W+ |. g2 B; [
* g, j6 ]! M! P6 j& o; |* M
9 f s" a( |$ \6 Z) s3 V
, q9 k3 [/ C* W1 {9 z- e3 Q, a
应用场景$ M2 i8 o; }7 Z R8 Q/ ]: q
图像拖拽编辑覆盖多个落地场景,是广大设计师和摄影爱好者的福音。
$ i2 F; U4 z' V4 E& S8 @
0 j3 T9 o- P& H0 w7 f
* a) {7 R8 B8 O& B' h- 人像修图:框选人脸、四肢,随意调整身材比例、姿态、五官位置,不变形不失真;# L5 ?6 \& L. ]! ~& H p6 `& G. }
- 静物 / 产品设计:拖拽商品调整摆放位置、缩放大小,无需重绘光影;
5 D( A. F) y4 J" ^ s( M& f' Y - 场景构图优化:移动画面中人物、花草、建筑,自动填充背景,画面无缝融合;! f9 Y/ v0 n3 b# s* Q
- 创意设计:自由扭曲物体轮廓,实现复杂创意形变,告别生硬拼接。# W$ N- d4 X7 J5 {- O% G
. p6 i5 B S# A4 Y实验室简介 _" s _4 `8 P7 s% }) S
ICRDrag 出自上海交通大学牛力实验室。该实验室近几年主要工作集中在图像生成和编辑领域,代表性子领域是图像合成 / 物体插入 (image composition/object insertion) 和少样本图像生成 (few-shot image generation),也涉猎过图像填充、图像分层、风格迁移、拖拽编辑等其他子领域。近两年在关注生成模型的后训练和理解生成一体化模型。 |
|