找回密码
 立即注册
查看: 1106|回复: 2

DeepSeek又拿第一!首创“因果流”视觉推理,超越Gemini ...

[复制链接]

4072

主题

535

回帖

1万

积分

论坛元老

积分
13076
发表于 2026-2-15 22:36:29 | 显示全部楼层 |阅读模式
pTu3q38MncMnVIXM.jpg
& d; v' a: j! Q7 l9 q9 U编辑:定慧 好困5 Q  a& Y# ?  Y# q' |7 H: g  G3 @
【新智元导读】DeepSeek开源DeepSeek-OCR2,引入了全新的DeepEncoder V2视觉编码器。该架构打破了传统模型按固定顺序(从左上到右下)扫描图像的限制,转而模仿人类视觉的「因果流(Causal Flow)」逻辑。- N4 L! `3 }( b
DeepSeek又双叒叕更新了!
& ~5 w1 u" y: n& S# G( f( M+ C* f这次是DeepSeek-OCR模型的重磅升级:DeepSeek-OCR2。
# y$ `% k/ ~* c. \( \ lBk6gIFs7RsgrY1b.jpg 2 x5 |$ K4 O) f* u3 i, |! y
还记得上一代DeepSeek-OCR吗?那个用视觉方式压缩一切的模型。8 }6 F( |" V3 u" |2 W( u8 O% P
这一次,DeepSeek更进一步,对视觉编码器下手了,提出了一种全新的DeepEncoder V2架构,实现了视觉编码从「固定扫描」向「语义推理」的范式转变!8 R2 B, k/ S7 E8 r: E* @8 O3 n
v70qZD1igDIdciso.jpg
+ }# }0 l0 Z! f7 ?( |DeepSeek-OCR2不仅能像人类一样按逻辑顺序阅读复杂文档,还在多项基准测试中刷新了SOTA。' l; X# R/ I! d% [& j
当然,按照DeepSeek的惯例,Paper、Code、Model全开源!
2 g8 B$ f# \' o8 n! J( W3 I zNW7921h1xV1QXq9.jpg 5 n8 r5 s- A5 f
DeepSeek-OCR2的核心创新在于通过DeepEncoder V2,赋予了模型因果推理能力(Causal Reasoning)。/ W2 Y( N9 z$ G3 F; o2 e6 U  D  K
这就像是给机器装上了「人类的阅读逻辑」,让AI不再只是死板地从左上到右下扫描图像,而是能根据内容语义灵活调整阅读顺序。- r0 y) X9 @8 d1 Q+ y4 o1 r5 {
DeepSeek-OCR2
5 D8 [8 c4 x& C视觉因果流
$ t& n, o% C' n; t% Y9 ^6 HDeepSeek在论文中指出,传统的视觉语言模型(VLM)通常采用光栅扫描(Raster-Scan)顺序处理图像,即固定地从左到右、从上到下。  y5 K4 H8 r- l  `( R% ~( {5 H
这种方式强行将2D图像拍扁成1D序列,忽略了图像内部的语义结构。% j, _8 A. ?2 h3 n$ R
fa88RVr9fv8P9eRs.jpg
2 M) _" G% W, N& s2 N+ M这显然与人类的视觉习惯背道而驰。
" t4 d9 x' m9 I- l人类在看图或阅读文档时,目光是随着逻辑流动的:先看标题,再看正文,遇到表格会按列或按行扫视,遇到分栏会自动跳跃。
  _" c3 }5 r* W9 q7 Z3 C为了解决这个问题,DeepSeek-OCR2引入了DeepEncoder V2。7 T5 y. P: k- @. |
它最大的特点是用一个轻量级的大语言模型(Qwen2-0.5B)替换了原本的CLIP编码器,并设计了一种独特的「因果流查询」(Causal Flow Query)机制。/ M) U' L& s% k8 l
DeepEncoder V2架构详解9 B& w( x; J0 O4 {$ b2 [
DeepEncoder V2主要由两部分组成:
7 P* h% @# F% ^2 b& @1. 视觉分词器(Vision Tokenizer)
3 [/ Y4 ^& Q$ p' `7 P' ?2 A沿用了SAM-base(80M参数)加卷积层的设计,将图像转换为视觉Token。
3 q- k0 j, o: Y& ^ Y55Bb2fgzgFG0f11.jpg / P& {$ ~" y8 j+ b
2. 作为视觉编码器的LLM
0 D3 }# Z% s, }4 n& R0 l4 t这里DeepSeek使用了一个Qwen2-0.5B模型。. |- s3 I& y" {7 N7 ?  P7 b
它不仅处理视觉Token,还引入了一组可学习的「查询Token」(Query Tokens)。; Y" p3 q0 e2 N7 s" i% i8 Q' k' Q
LbGsl23S6dlMVn63.jpg
% q, h6 F+ @3 R) n! r. l( W关键的创新点在于注意力掩码(Attention Mask)的设计:
: w9 I" }) r& G- X* S7 Y JRajWCZ6k3KcbDko.jpg ' Q. b. p; v: m* y
视觉Token之间采用双向注意力(Bidirectional Attention),保持全局感知能力,类似于ViT。- R! t3 w: N  [: ~$ g
而查询Token则采用因果注意力(Causal Attention),每一个查询Token只能看到它之前的Token。
' P% A) z! E: R7 Y2 q通过这种设计,DeepEncoder V2实现了两级级联的因果推理:
1 d2 c8 K6 m( \/ H5 V4 ~6 S) O" j编码器通过可学习的查询对视觉Token进行语义重排,随后的LLM解码器则在这个有序序列上进行自回归推理。. _3 f5 I% l, v
这意味着,DeepSeek-OCR2在编码阶段就已经把图像里的信息「理顺」了,而不是一股脑地扔给解码器。2 \$ v' K% i& U
Token更少,精度更高
. v+ _6 ?/ Q: Y+ n: Q: h1 I1 e( ]实验数据显示,DeepSeek-OCR2在保持极高压缩率的同时,性能显著提升。- K5 d! }4 E5 g8 @, I
在OmniDocBench v1.5基准测试中,DeepSeek-OCR2在使用最少视觉Token(仅256-1120个)的情况下,综合得分高达91.09%,相比前代提升了3.73%。
4 d! J0 D5 |, H9 K3 e# } R7t89H111s1x2gSx.jpg 6 ?% n" g  `5 i7 |, [' N  ^
特别值得一提的是,在阅读顺序(R-order)的编辑距离(Edit Distance)指标上,DeepSeek-OCR2从前代的0.085显著降低到了0.057。0 v* b% Y3 G' o& A$ A
这直接证明了新模型在处理复杂版面时,逻辑性更强,更懂「阅读顺序」。
! D' Q% i1 y; a7 J7 z* Y! N在和Gemini-3 Pro等闭源强模型的对比中,DeepSeek-OCR2也丝毫不落下风。
7 T) U3 m4 a+ H, v: i4 ^: m+ D7 J在均使用约1120个视觉Token的情况下,DeepSeek-OCR2的文档解析编辑距离(0.100)优于Gemini-3 Pro(0.115)。
# d6 K" n  U# v# x- S XJzoAIj7QsAOW07h.jpg
# `, ?" Y; _1 f9 u  c! W" f gm916YMt2699x19y.jpg
. R& D6 C8 @2 O不仅是刷榜,DeepSeek-OCR2在实际生产环境中也非常能打。
8 E; S! P6 S8 t/ }. wDeepSeek披露,在处理在线用户日志图像时,OCR结果的重复率从6.25%降到了4.17%;在PDF数据生产场景中,重复率从3.69%降到了2.88%。
* F$ K7 {& |) N' F ieZy45N94MyMInie.jpg
2 h" ~- G& y$ h; r  c* z这意味着模型生成的文本更加干净、准确,对于作为LLM训练数据的清洗流水线来说,价值巨大。8 m  s- i3 j: B8 F; L
迈向真正的多模态统一% n6 ?  h  ?$ k1 L, @) z
DeepSeek在论文最后提到,DeepSeek-OCR2通过DeepEncoder V2验证了「LLM作为视觉编码器」的可行性。5 ~7 P  a/ I4 _! l/ I9 i
这不仅是一个OCR模型的升级,更是迈向原生多模态(Native Multimodality)的重要一步。
* z6 j1 c" y7 y1 I$ Z# c  I) a未来,同一个编码器只要配备不同的模态查询嵌入(Query Embeddings),就能处理文本、图片、音频等多种模态的数据,真正实现万物皆可Token,万物皆可因果推理。2 {3 y+ e7 Q  y! \5 O
DeepSeek表示,虽然目前光学文本识别(OCR)是LLM时代最实用的视觉任务之一,但这只是视觉理解宏大图景的一小部分。- M3 J4 k4 X6 p# S: B/ Y5 C( D: c1 y, b1 S
DeepSeek将继续探索,向着更通用的多模态智能进发。
集群智慧云科服专利申请服务

30

主题

440

回帖

1420

积分

等待验证会员

积分
1420
发表于 2026-2-15 23:06:34 | 显示全部楼层
DeepSeek总能不断给我们惊喜!
集群智慧云科服SCI/SSCI/EI期刊发表服务

30

主题

440

回帖

1420

积分

等待验证会员

积分
1420
发表于 2026-2-15 23:36:40 | 显示全部楼层
好样的,DeepSeek!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


快速回复 返回顶部 返回列表