找回密码
 立即注册
查看: 1104|回复: 2

DeepSeek又拿第一!首创“因果流”视觉推理,超越Gemini ...

[复制链接]

4072

主题

535

回帖

1万

积分

论坛元老

积分
13076
发表于 2026-2-15 22:36:29 | 显示全部楼层 |阅读模式
pTu3q38MncMnVIXM.jpg
9 h- O6 U, C/ j7 k$ Y编辑:定慧 好困1 q& n5 c7 S5 _2 ]% K7 ]0 F5 Q1 F8 d
【新智元导读】DeepSeek开源DeepSeek-OCR2,引入了全新的DeepEncoder V2视觉编码器。该架构打破了传统模型按固定顺序(从左上到右下)扫描图像的限制,转而模仿人类视觉的「因果流(Causal Flow)」逻辑。6 ?, R7 O" a9 \" k  U8 Z; q/ @
DeepSeek又双叒叕更新了!& Z; P9 y7 [& @/ z7 R& ?
这次是DeepSeek-OCR模型的重磅升级:DeepSeek-OCR2。
5 l' D2 _5 }# c" Q8 [ lBk6gIFs7RsgrY1b.jpg
9 d4 K5 J4 Z+ \* ]1 I还记得上一代DeepSeek-OCR吗?那个用视觉方式压缩一切的模型。
+ r6 @" h2 \8 R0 X这一次,DeepSeek更进一步,对视觉编码器下手了,提出了一种全新的DeepEncoder V2架构,实现了视觉编码从「固定扫描」向「语义推理」的范式转变!3 ^6 O7 }% a9 h! F7 @
v70qZD1igDIdciso.jpg 7 @/ s6 g6 D' u0 y" V* g
DeepSeek-OCR2不仅能像人类一样按逻辑顺序阅读复杂文档,还在多项基准测试中刷新了SOTA。5 S# `) U: u' b- H' ^) n) U. i
当然,按照DeepSeek的惯例,Paper、Code、Model全开源!
& e* B/ j( K# V# \3 x zNW7921h1xV1QXq9.jpg
3 t9 F! G8 e* r6 BDeepSeek-OCR2的核心创新在于通过DeepEncoder V2,赋予了模型因果推理能力(Causal Reasoning)。# t- z* k' p" F5 |, o! h
这就像是给机器装上了「人类的阅读逻辑」,让AI不再只是死板地从左上到右下扫描图像,而是能根据内容语义灵活调整阅读顺序。
/ d" [, E& m9 M& hDeepSeek-OCR2
2 |0 @% D0 d3 X, n3 D$ q) n视觉因果流9 ^7 a' R" y' H; t& a" |7 U
DeepSeek在论文中指出,传统的视觉语言模型(VLM)通常采用光栅扫描(Raster-Scan)顺序处理图像,即固定地从左到右、从上到下。5 x: w! @2 m- f% a9 N* y
这种方式强行将2D图像拍扁成1D序列,忽略了图像内部的语义结构。+ l8 i0 b1 B% D
fa88RVr9fv8P9eRs.jpg
! n3 N, ]- K" u这显然与人类的视觉习惯背道而驰。/ Q9 p1 V% c" \; o! i
人类在看图或阅读文档时,目光是随着逻辑流动的:先看标题,再看正文,遇到表格会按列或按行扫视,遇到分栏会自动跳跃。
( F9 V( v( j" z. _, x为了解决这个问题,DeepSeek-OCR2引入了DeepEncoder V2。
5 v$ Y2 a5 C+ E* [0 e; D! u它最大的特点是用一个轻量级的大语言模型(Qwen2-0.5B)替换了原本的CLIP编码器,并设计了一种独特的「因果流查询」(Causal Flow Query)机制。- n9 b- {6 ^6 Y8 z6 B
DeepEncoder V2架构详解
. v) q5 B+ x% j* b* GDeepEncoder V2主要由两部分组成:+ N9 y, K4 c4 C
1. 视觉分词器(Vision Tokenizer)
4 h) l3 o' x5 n# U3 T% S沿用了SAM-base(80M参数)加卷积层的设计,将图像转换为视觉Token。
6 T/ f: W3 u8 b, n Y55Bb2fgzgFG0f11.jpg 8 |: d$ x3 X. L5 V3 F/ G( M0 Y
2. 作为视觉编码器的LLM
6 ~% T% Y% F( f9 S* l这里DeepSeek使用了一个Qwen2-0.5B模型。4 V/ o# a5 P$ ~
它不仅处理视觉Token,还引入了一组可学习的「查询Token」(Query Tokens)。- p& x/ o9 {& u
LbGsl23S6dlMVn63.jpg $ E: x0 p9 w4 n4 }
关键的创新点在于注意力掩码(Attention Mask)的设计:6 b4 B4 ~- w7 C( I
JRajWCZ6k3KcbDko.jpg % ^$ g8 y9 S& {/ J
视觉Token之间采用双向注意力(Bidirectional Attention),保持全局感知能力,类似于ViT。+ x$ k4 s& ]* W3 \7 k* g
而查询Token则采用因果注意力(Causal Attention),每一个查询Token只能看到它之前的Token。
! t" V& O/ k, p" z通过这种设计,DeepEncoder V2实现了两级级联的因果推理:
  g' b9 s6 `& W5 v编码器通过可学习的查询对视觉Token进行语义重排,随后的LLM解码器则在这个有序序列上进行自回归推理。" l1 H: m) y5 l
这意味着,DeepSeek-OCR2在编码阶段就已经把图像里的信息「理顺」了,而不是一股脑地扔给解码器。8 k6 ~- w" [6 H3 P4 H% Q
Token更少,精度更高
# h) t1 m$ O# x2 S6 x实验数据显示,DeepSeek-OCR2在保持极高压缩率的同时,性能显著提升。
( ], |' Q& k3 |* p  J1 P在OmniDocBench v1.5基准测试中,DeepSeek-OCR2在使用最少视觉Token(仅256-1120个)的情况下,综合得分高达91.09%,相比前代提升了3.73%。
* i; d, B$ Z" f R7t89H111s1x2gSx.jpg # F% H3 N/ E7 z( W: v$ Q6 a
特别值得一提的是,在阅读顺序(R-order)的编辑距离(Edit Distance)指标上,DeepSeek-OCR2从前代的0.085显著降低到了0.057。
' S& P2 B* A* m: i3 f+ r: B  [这直接证明了新模型在处理复杂版面时,逻辑性更强,更懂「阅读顺序」。
) ~7 I6 W' U' F2 A在和Gemini-3 Pro等闭源强模型的对比中,DeepSeek-OCR2也丝毫不落下风。
2 P; u* v# K) k$ Q& k* r1 e9 `在均使用约1120个视觉Token的情况下,DeepSeek-OCR2的文档解析编辑距离(0.100)优于Gemini-3 Pro(0.115)。/ l8 H9 T+ \% s' \7 a4 v+ l8 d5 d
XJzoAIj7QsAOW07h.jpg + a8 {* I0 u! e: k
gm916YMt2699x19y.jpg 0 b& `' |& b( j
不仅是刷榜,DeepSeek-OCR2在实际生产环境中也非常能打。
- C! ^+ m6 x' @DeepSeek披露,在处理在线用户日志图像时,OCR结果的重复率从6.25%降到了4.17%;在PDF数据生产场景中,重复率从3.69%降到了2.88%。( v6 ^( g( B8 o0 }' Q
ieZy45N94MyMInie.jpg
8 q2 [% j# ?& q' |2 o* L这意味着模型生成的文本更加干净、准确,对于作为LLM训练数据的清洗流水线来说,价值巨大。
: c9 k4 t" D' y% x3 f% P/ U7 V迈向真正的多模态统一
' D+ x! m) [4 O5 d$ Q" Z# eDeepSeek在论文最后提到,DeepSeek-OCR2通过DeepEncoder V2验证了「LLM作为视觉编码器」的可行性。- Z7 _$ P: {- ~, z- S8 _
这不仅是一个OCR模型的升级,更是迈向原生多模态(Native Multimodality)的重要一步。* D: r& M5 `( E% C# Z" c
未来,同一个编码器只要配备不同的模态查询嵌入(Query Embeddings),就能处理文本、图片、音频等多种模态的数据,真正实现万物皆可Token,万物皆可因果推理。: X2 E+ A/ W  ]
DeepSeek表示,虽然目前光学文本识别(OCR)是LLM时代最实用的视觉任务之一,但这只是视觉理解宏大图景的一小部分。
( Q& Y: y( u  H3 s- o5 C1 pDeepSeek将继续探索,向着更通用的多模态智能进发。
集群智慧云科服专利申请服务

30

主题

440

回帖

1420

积分

等待验证会员

积分
1420
发表于 2026-2-15 23:06:34 | 显示全部楼层
DeepSeek总能不断给我们惊喜!
集群智慧云科服SCI/SSCI/EI期刊发表服务

30

主题

440

回帖

1420

积分

等待验证会员

积分
1420
发表于 2026-2-15 23:36:40 | 显示全部楼层
好样的,DeepSeek!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


快速回复 返回顶部 返回列表