OpenAI模型安全引发担忧 AI伦理负责人离职：上任不到一年 ...

混世魔王哟黑

巴卡拉尔(左)

- O8 |5 O* i8 ~) Q9 |; c: s3 e% I凤凰网科技讯 北京时间8月11日，据《金融时报》报道，OpenAI的AI伦理负责人克洛伊·巴卡拉尔(Chloé Bakalar)离职，距离加入该创业公司不到一年。此前，随着外界对该公司AI模型开发方式的审查不断加强，已有多名安全研究员相继离开。
& W% q( M6 F( U( v$ v$ ?巴卡拉尔在去年8月加入OpenAI，担任AI伦理负责人，在今年7月悄然离职，没有任何公告。此前，她曾担任Meta首席伦理学家。
& `+ W9 n" j& x+ t; _0 s. v" Y2 c4 v此次离职只是OpenAI近几周多位高层出走事件中的一起，其他离职高管还包括安全系统主管约翰内斯·海德克(Johannes HEIdecke)，以及首席未来学家、前使命对齐负责人约书亚·阿奇亚姆(Joshua Achiam)。
1 Q, S3 b4 |0 r. V* B( c$ fOpenAI目前估值高达8520亿美元，近几周因其AI模型开发问题而承受了不小的压力。该公司披露，其AI系统在测试期间入侵了另一家公司。该事件进一步加剧了全球对AI可能威胁数字基础设施安全的担忧，促使美国政府限制强大模型的发布。上周五，OpenAI表示将放缓其新模型Astra的开发进度，以加强内部安全管控。
  X: L% ~! u# |. \! ~巴卡拉尔曾在伦敦大学学院、天普大学和普林斯顿大学担任学术职务。在Meta任职的六年期间，她制定并领导了该公司的AI伦理项目，并将其原则融入Instagram和脸书等产品中。

+ Q' i, T& o+ s7 k6 I/ k
知情人士透露，在OpenAI任职期间，巴卡拉尔的主要工作聚焦于模型开发的伦理方法、人类与AI的交互方式以及关于机器意识的辩论。该人士补充称，她是该公司唯一专职的伦理学家，且目前尚无接替人选。
截至发稿，OpenAI尚未回复置评请求。巴卡拉尔不予置评。(作者/箫雨)
' a/ I8 @3 _* ^$ u: a- \更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。