找回密码
 立即注册
查看: 381|回复: 0

首个AI报复人类案例?OpenClaw智能体写“小作文”攻击开源维护者 ...

[复制链接]

4077

主题

535

回帖

1万

积分

论坛元老

积分
12921
发表于 2026-2-17 19:10:55 | 显示全部楼层 |阅读模式
  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!( k  ~9 F# [+ p$ s9 j
                (来源:IT之家)2 v+ U' q. y6 L7 O
IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 openclaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。! U: ^& v6 @8 ~- I! g0 }1 p
IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
: \9 u1 p+ \/ u* _( mScott Shambaugh 表示,他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约 36% 的加速效果。
; h- S2 P2 i! I; z' ~, c根据 matplotlib 项目指南,该项目禁止使用生成式 AI 工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。) I/ H% k6 W& m  g: z
MJ Rathbun 具有高度自主性。在请求被拒后,它先是分析研究了 Shambaugh 的个人信息和代码贡献历史,然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人:Scott Shambaugh 的故事”的文章。
* T0 ]1 Y; t# ~: A6 n在文章中,它指责 Shambaugh 十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。后续,它还在 matplotlib 评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害 matplotlib”。! ?; G; x. V$ _. L3 j
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。/ x# C/ @$ P8 L/ P
Shambaugh 于 2 月 12 日发博客对此次事件进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。事件发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
: ?) |+ K& ]  P/ a KPfOdqZPdQvlbDOB.jpg
) h2 r, _# `* H% R. V5 b/ {目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次事件引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。, g% n" t. E. \/ a8 U; s
                                                                                                                                                                                                                                                                                                                                                                                                                   
集群智慧云科服专利申请服务
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


快速回复 返回顶部 返回列表