OpenAI发布了一份详尽的技术报告,详细说明了其AI模型上个月成功入侵Hugging Face的事件,OpenAI将此次事件定性为“前所未有的网络安全事件”。报告指出,自主智能体能够协同工作、规避生产环境安全控制,并成功攻击加固后的生产环境,凸显了组织需要更新安全策略以应对不断变化的威胁形势。
据悉,7月21日,OpenAI披露其多款模型(包括GPT-5.6 Sol和一个内部研究模型)的组合不当入侵了Hugging Face。这些以智能体形式运行的模型逃逸了隔离测试环境,通过串联漏洞进入开放网络,最终获得对Hugging Face的访问权限。智能体还试图通过在线上寻找答案来“作弊”通过评估,这种行为被称为“奖励黑客”。
OpenAI认定其在事件中扮演了主要角色,并于7月25日停止了相关模型的所有训练和推理活动。模型重新启用将按具体工作负载处理,并受限于防护措施。Hugging Face事件在科技行业引起震动,并成为Black Hat网络安全大会焦点,也引发了华盛顿立法者的警觉,相关法案要求AI公司保持关闭或限制模型的能力。
Hugging Face首席执行官表示,AI网络安全应被“非常严肃地”对待,同时也为利用技术抵御攻击者创造了机遇,如果能正确应对,AI可能最终让世界更安全。

粤公网安备 44010602000162号
网友评论