OpenAI周二表示,其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。据悉,该模型能够发现此前未知的安全漏洞,并在无需人类逐步指导的情况下加以利用,属于其“准备框架”中最先进的类别。
OpenAI于2023年推出“准备框架”,以跟踪和应对可能带来严重危害的新风险。在去年更新中,公司界定了“高”和“关键”两种能力阈值,后者指模型可能引入前所未有的严重危害新途径。
尽管Astra模型未参与上个月披露的Hugging Face网络安全事件,OpenAI仍决定推迟其部分开发。在加强防护措施后,公司表示相信该模型的安全防护已充分降低发布风险。
OpenAI计划“很快”推出Astra,但对其网络安全能力的访问将更加受限,仅向名为Daybreak的网络安全联盟中的特定组织开放。

粤公网安备 44010602000162号
网友评论