AI失控事件接连发生，OpenAI再次暂停其新一代模型训练

【太平洋科技快讯】据央视新闻报道，当地时间 9 月 26 日消息，OpenAI 表示，已经暂停新一代 AI 模型的训练、评估以及涉及工具调用的推理工作。这是三个月来 OpenAI 第二次暂停模型训练。

根据 OpenAI 发布的技术报告，9 月 20 日，一个处于沙盒环境内执行搜索训练任务的 AI 智能体，利用沙盒 DNS 过滤存在的缺陷绕过网络限制，借助 DNS 通路访问到外部公共聊天机器人服务。在此之前，该智能体已经调用内置搜索工具，尝试直接访问搜索引擎，但并未成功。

事件发生之后，OpenAI 对齐监控系统在 15 分钟内发出告警，人工审核团队 3 分钟后介入处置，耗时 2.5 小时终止本次训练任务。针对该安全漏洞，OpenAI 已在两套独立防护层完成拦截策略部署。OpenAI 表示，该事件严重程度不及过往安全事故，但对后续安全体系加固具备重要参考意义。