找回密码
 立即注册
查看: 901|回复: 0

BMJ研究:利用机器学习筛查疑似造假的论文

[复制链接]

4077

主题

535

回帖

1万

积分

论坛元老

积分
12921
发表于 2026-2-20 15:20:13 | 显示全部楼层 |阅读模式
2026年1月30日,BMJ发表了一篇文章,该文章训练并验证机器学习模型,以区分癌症领域疑似出自论文工厂的论文与真实研究论文。研究发现,癌症出版领域可疑论文的比例在不断上升,论文工厂日益扩大,并且将目标瞄准了更高影响因子的期刊
1 s8 Y( o5 p2 @+ I- B& F, z
: z1 j! q2 k% C9 P0 N" J2 R, h2 E7 W* z5 \  }: J; D
原文链接:https://www.bmj.com/content/392/bmj-2025-087581+ z$ y# F) a$ @: D
01. p4 {8 w: J  l
研究背景9 B2 {, F$ a6 W1 B! N' q
论文工厂通过快速批量生产低质量研究论文来最大化收益。这些文章可能存在以下特征:通常使用已有模板,只替换特定的术语;可能包含错误试剂、伪造数据与实验,存在经过修图或重复使用的图表;通常内容泛泛、写作粗糙、章节间缺乏连贯性,且仅提供肤浅的研究论证;可能会创建从未合作过,或者未作出任何实质贡献的虚假作者;常自引文章;可能贿赂编辑并操纵同行评审以促成发表。
9 B, ~, p9 [1 k7 K' _癌症领域受其影响尤为严重。该领域发表压力大、专业数据与技术相对易伪造,以及同行评审能力有限,造假论文更易生产且难以识别。1 i, {& F- t& V
跨学科研究显示,机器学习方法可以基于撤稿观察数据库的文本数据,预测撤稿和论文工厂产出文章,但该方法在癌症研究领域的效能尚未经过验证。- \2 u' R- Z4 K0 V
假设论文工厂使用的文本模板会覆盖标题和摘要,且这些模板具有领域和文章类型特异性,可为机器学习模型提供强信号。本研究基于BERT构建机器学习流程,输入癌症领域已撤稿的论文工厂文章的标题和摘要,通过模型识别文本模式,进而检测现有论文与已撤稿的论文工厂文章的相似性  }7 l3 i0 G- k; I% a% [, Z; x
02
' X8 P9 s6 o9 j4 ^) V' r1 P研究方法* J) K6 C* N' K( u  c
本研究首要目标是训练并评估模型的可靠分类能力,以区分撤稿文章(疑似出自论文工厂)与真实癌症研究论文的标题摘要。其次,使用模型筛查数百万篇癌症研究论文,评估被标记的可疑论文随时间的变化趋势,被标记论文的国家、出版商、研究领域的变化,并分析其在高影响因子期刊中的演变情况。
; h- ?; Y0 y) x2 V8 x, V癌症研究数据集
( ^0 ~1 w. i+ K9 T6 W2025年3月下载pubmed中所有生物医学研究文献,排除摘要非英文、空白、截断、无标点、少于250字或大于4000字的文章。纳入1999-2024年的所有文章,去掉重复、撤稿、更正、关注文章后,保留1740万篇文章。通过MeSH术语和美国国家癌症研究所术语库构建关键词,在论文标题和摘要中进行匹配,最终得到包含2,647,471篇论文的癌症研究数据集,这些论文发表于11,632种期刊# e$ H7 j9 P  {5 P; K- m
提取数据进行可视化分析:第一作者所属国家、出版商、癌症类型、主要癌症研究领域以及SCImago期刊影响因子。
6 y  }+ G+ D$ r! T注:‌Scimago是一个基于Scopus数据库的学术评估平台‌,提供期刊排名、机构排名等多种科研评价工具。
4 d& d6 M3 ]& C) }+ C) O2 t$ M) E论文工厂数据集- E; T2 I9 f. b% g/ p- P" i/ a' r
论文工厂数据集通过两个来源构建:一是撤稿观察网数据库中标记为论文工厂来源的论文(https://retractiondatabase.org/RetractionSearch.aspx);另一个是图像诚信专家(学术侦探)整理的在线列表,其中列出了图像篡改的证据。得益于PubPeer平台的匿名贡献者,论文工厂论文的汇编资料已在线发布在电子表格中(链接:https://docs.google.com/spreadsheets/d/1zKxfaqug4ZhwHyGzslF38pFyC8xtU8lzmmOFMGYITDI/edit?gid=1473413779#gid=1473413779)
  s) F7 g- h& w) |$ M1 f- o撤稿观察数据库中的论文用于模型开发,最终纳入2,202论文工厂撤稿论文。图像诚信专家数据集用于外部验证,最终选取3,094疑似论文工厂论文。
& x% [9 L# N9 Z& ?0 A模型选择和训练
! M4 e! X. W0 X$ L) i3 n" r8 d0 M训练数据集包含50%论文工厂论文和50%真实论文前者假定其为论文工厂产出,后者用作对照,选择后均在PubPeer上进行人工核查。对照组文献从癌症研究数据集中筛选,以下三部分各占约三分之一:中国机构发表在《Cell》,《Cancer Cell》,《Molecular Cell》,《The EMBO Journal》上的论文(为减少语言上可能存在的偏倚);随机选取瑞典/芬兰/挪威机构的论文(因撤稿观察网数据库中无相关撤稿记录);随机选取上述四个期刊中除外上述国家的论文。4 I2 q% ?/ ~7 }" Z/ |
训练数据集中4404篇论文被分为三部分,70%用于训练、17.5%用于优化、12.5%用于内部验证,每部分论文工厂论文和对照论文保持1:1。) O3 X, P8 F! D) A5 j3 I9 @
模型性能(准确率、灵敏度和特异度)首先在内部验证集上评估,然后使用图像诚信专家整理的在线清单进行外部验证。另外进行了补充验证,使用了疑似涉及论文工厂的873癌症研究论文,这些论文来自三项研究,这些研究探讨了存在核苷酸序列/细胞系问题的癌症相关论文。" X5 C0 ^2 ?; O  ^7 j, ^8 v
癌症文献筛查' |% I9 ~$ U/ h7 b
使用经过微调的BERT模型对1999-2024年间发表的260万篇癌症研究文献进行筛查,经过训练,该模型可识别与被撤论文工厂论文相似的文本特征,将识别出的论文称为"标记论文"7 A2 o, e* j( t7 ]5 J# P5 N. o) l
03" R; A' V( y; i! U' V/ C
研究结果
" F' f1 J( G8 c( z模型性能
. a' T! D; a5 ^) b内部验证准确率达到0.91,灵敏度为0.87,特异度为0.96。外部验证中这些指标分别为:0.93,0.87和0.99。补充验证中,模型共标记了72%的论文。& e4 _: |  V0 ~6 S! h6 Y4 u2 w0 {5 e
由于内部验证集与外部验证集的错误分类相似,二者合并分析时,假阳性文章,即将对照论文误判为论文工厂论文,仅39篇(共3375篇)。( u( ]( Q' K" Z6 z8 m+ S- P! C
癌症研究数据集的筛查
3 {' x8 b' I" x使用模型筛查1999-2024年的癌症研究数据集,261,245篇论文被标记为可疑,占数据集中所有论文的9.87%
( F8 ~3 Y" B8 C; w3 [7 n时间趋势
3 b; N* q/ u" q9 y# ^: w1999-2022年间标记论文的数量呈指数级增长,于2022年达到峰值,随后两年略有下降。2000年初标记论文的比例保持在1%左右,2020年代初,这一比例已超过当年癌症研究产出的15%。
0 R$ @, \+ B# j  R9 ^
4 O6 U+ N4 s* s2 A4 O/ ~4 l) d/ J1 `9 E) ^! A! _8 x
图.每年的标记论文数量
, ?; |$ u* O. m/ ?) N/ _& N国家
" w! A" {. `" h$ _各国产出的论文中,标记论文占比最高的是中国(497,672/177,907,36%),其次是伊朗(6,801/33,935,20%)。就标记论文数量而言,美国位列第二,被标记10,511篇论文,占其发表论文的2%。5 P2 N2 ~: F- E( E
出版商及其期刊
7 Z; g4 F( L  r% q2 b+ _, o* U9 l标记论文比例最高为67%,来自Verduci Editore旗下的癌症研究期刊《European Review for Medical and Pharmacological Sciences》。排名第二的出版商是International Scientific Literature,旗下《Medical Science Monitor》的标记论文比例约45%。其余四家出版商依次为E-Century Publishing Corporation(44%)、Spandidos Publications(38%)、Ivyspring International Publisher(30%)和IOS Press(30%)。
8 Z& @$ O3 e& D- ~0 D* Y' [# i4 j4 ~大型出版商Springer Nature,Elsevier,和Wiley标记论文比例较低,但标记论文的绝对数量较高。
- D# `0 q1 u# H3 ^% U" ]3 w2 F" @研究领域4 @1 o6 Z: T. F3 B
标记论文主要集中于癌症生物学与基础研究领域、新疗法研发或评估、诊断与预后领域,标记比例均超过10%。生存研究、支持性照护与临终关怀;流行病学与人群研究;卫生系统、政策与实施等领域的标记论文比例较低,均不足2%。  ?+ c( x+ |5 L0 V7 G$ E# T

/ k: O: J2 @( G2 k) a( r- V9 @  Z
: e3 E9 |, u, [! u8 m/ E9 O图.标记论文比例较高的研究领域
" N: B* _+ S1 L) E0 @影响因子前10%的期刊' f7 [: t1 V( w( q% ~, B2 k/ K4 o
影响因子排名前10%的期刊中,标记论文比例呈现出随时间推移而明显上升的趋势,于2022年超过10%。* `  E0 F5 i1 o2 {; o9 d4 a) ?) e

7 {0 n$ j: _0 S6 g% d3 L1 V# f! g: C' o4 o
图.影响因子前10%期刊中的标记论文比例
8 t0 L, U% k/ T# w04. M0 g( l, A% t- S' X8 b
模型在不同验证集上表现一致,证实了其对论文工厂文本特征的可靠识别能力,并强化了“此类论文共享通用标题与摘要模板”的假说。标记论文的多项特征与既往研究一致,如标记论文随时间的指数增长趋势与已知的论文工厂发展历程吻合;标记论文在基础研究领域更集中等。/ ?( ?! t3 ^% U* j8 H+ m
研究局限性) H- {- @, F3 A' O2 }! ~: w

0 s: f8 i' q0 A6 @$ ^. y" U: D5 S

    ; h0 P! ~  M$ X! o' o& ]
  •   D" S1 }% r* T' n  Z0 p
    两个论文工厂数据集可能存在局限性。撤稿观察网数据库中的“论文工厂”标签仅反映其工作人员对出版商撤稿声明的解读,而出版商调查这些论文的方式缺乏统一标准,导致该标签可能对应不同证据强度。图像诚信专家数据集中包含图像篡改证据,这些文章可能与论文工厂无关,且专家的调查方法与透明度存在差异。模型检测到的更可能是训练集中代表的文本特征,而非论文工厂论文的全部特征。: r) s* s8 b8 G: u! V( f7 h+ {
    " F3 Y; B0 o3 ?% W" Z
  • # S) Y" [( h3 [
    训练集中中国论文占比过高,存在模型将中文语言模式识别为论文工厂文本特征的可能
    7 R9 @1 D1 `: B# e1 D! n. K$ R6 t  \

  • / M: Z4 W; M. i9 f) L对照组论文来源可能造成偏倚。
    6 l/ ?; C6 u' g: L4 E8 T
    9 v4 e3 f9 Q3 _/ @" Y) P2 h" o' F
  • . S$ n2 V1 u# B: v3 B$ [3 B) V  K
    深度学习模型的不可解释性导致无法直接识别BERT捕捉的特征。本研究并非旨在直接识别论文工厂论文或指控任何个人欺诈,而是关注整体模式与趋势。该分类器是一个概率模型,而非不端行为的最终判定。: J; H- l. F( O1 X( [! m7 Z0 @( K
      m$ [" V* O: F
$ ]) Z% o4 h* \1 T) g) M/ Y
05
7 [) q9 g+ \1 u& w0 `( I研究结论2 g% x1 [, o" O  C5 C0 V" q4 p
利用机器学习模型,通过标题和摘要识别与已撤稿论文工厂论文相似的论文是可行且有效的。研究结果揭示,癌症研究出版领域的标记论文比例不断上升,论文工厂日益扩大,现已将目标瞄准更高影响因子的期刊,这强调了期刊、审稿人和研究人员保持警惕的必要性。- m+ t( [9 M% [0 ~1 R
参考文献:BMJ. 2026 Jan 29;392:e087581. doi: 10.1136/bmj-2025-087581.
集群智慧云科服专利申请服务
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


快速回复 返回顶部 返回列表