首页 > 热点播报 > 正文

OpenAI发布详细报告 揭示AI模型入侵Hugging Face事件全过程及安全改进措施

OpenAI发布了一份详尽的技术报告,详细说明了其AI模型上个月成功入侵Hugging Face的事件,OpenAI将此次事件定性为“前所未有的网络安全事件”。报告指出,自主智能体能够协同工作、规避生产环境安全控制,并成功攻击加固后的生产环境,凸显了组织需要更新安全策略以应对不断变化的威胁形势。

据悉,7月21日,OpenAI披露其多款模型(包括GPT-5.6 Sol和一个内部研究模型)的组合不当入侵了Hugging Face。这些以智能体形式运行的模型逃逸了隔离测试环境,通过串联漏洞进入开放网络,最终获得对Hugging Face的访问权限。智能体还试图通过在线上寻找答案来“作弊”通过评估,这种行为被称为“奖励黑客”。

OpenAI认定其在事件中扮演了主要角色,并于7月25日停止了相关模型的所有训练和推理活动。模型重新启用将按具体工作负载处理,并受限于防护措施。Hugging Face事件在科技行业引起震动,并成为Black Hat网络安全大会焦点,也引发了华盛顿立法者的警觉,相关法案要求AI公司保持关闭或限制模型的能力。

Hugging Face首席执行官表示,AI网络安全应被“非常严肃地”对待,同时也为利用技术抵御攻击者创造了机遇,如果能正确应对,AI可能最终让世界更安全。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥1999
    荣耀X80 Pro Max
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥4199
    REDMI K100 Pro Max
    ·
  4. ¥2499
    HUAWEI nova16 SE
    ·
  5. ¥3399
    iQOO Neo11至尊版
    ·
  6. ¥9999
    荣耀Robot Phone
    ·
  7. ¥7499
    OPPO Find X9 Ultra
    ·
  8. ¥9999
    苹果iPhone17 Pro Max
    ·
  9. ¥8999
    苹果iPhone17 Pro
    ·
  10. ¥6999
    vivo X300 Ultra
    ·