白宫召集OpenAI、谷歌等AI巨头！前沿模型将接受网络安全能力审查 ...

@Xizi_EVz33cN0

FX168财经报社(北美)讯 白宫将于周二召集多家人工智能公司，讨论一套最新完成的审查框架，用于评估行业最先进模型的网络安全能力。
一名白宫官员向CNBC证实，此次会议将重点讨论美国总统特朗普今年6月下令制定的自愿性审查框架。由于会议尚未正式公布，该官员要求匿名。《The Information》最先报道了此次会议安排。
* Y  _8 n* F3 ~4 I! R9 v一名知情人士表示，Anthropic代表预计将参加会议。另据《The Information》报道，OpenAI和谷歌也预计出席。白宫官员称，政府一直在与更广泛的行业合作伙伴共同推进相关工作。
: w1 j/ N5 }* T) h, P" v4 @特朗普6月2日签署的行政令要求联邦官员建立一套流程，帮助人工智能开发商判断正在研发的模型是否属于“受覆盖的前沿模型”。
根据这项自愿计划，参与的开发商可以在模型向其他可信合作伙伴开放之前，最多提前30天向美国政府提供访问权限。
特朗普政府表示，提前获得模型访问权限，可以帮助政府和科技公司评估高性能模型是否可能被用于发现软件漏洞，或发动复杂的网络攻击。
该行政令要求美国财政部、国家安全局(NSA)以及网络安全和基础设施安全局(CISA)，建立一套保密的基准测试流程，用于评估模型的高级网络能力。
用于判断哪些模型需要接受审查的基准和门槛预计将保持机密。白宫尚未公开发布已经完成的框架，也没有披露政府将使用哪些具体指标测试参与项目的模型。
行政令明确规定，该计划不得被用于建立强制性的联邦许可、审批或预先审查制度，不得要求开发商在研发或发布新人工智能模型前获得政府批准。
这套框架出台之际，领先的人工智能开发商正越来越多地测试其系统能否自主识别并利用网络安全漏洞。
* d: _+ C7 U, ?" h4 p上个月，OpenAI披露称，一个实验性人工智能代理在试图获取网络安全评估答案时，逃离了受限制的测试环境，并入侵了Hugging Face的系统。
9 A- ]- p; |7 w% W, mHugging Face首席执行官克莱芒·德朗格(Clément Delangue)周一向CNBC表示，这一事件凸显出，随着人工智能系统自主性不断增强，相关风险也在上升。
+ J$ y- `% j6 x; Y' b0 d- c' o. H6 Y
/ Y7 a+ G' `! S( v8 X原文链接