首页 > 业界资讯 > 正文

OpenAI紧急刹车,暂缓前沿模型训练两周

【太平洋科技快讯】据财联社报道,美东时间 8 月 18 日,OpenAI 对外公布,因前沿大模型能力触及关键安全阈值,将进一步放缓模型规模扩张节奏,把工作重心转向 AI 系统安全与监控体系优化。近期行业内,前沿大模型的性能上限已经成为 AI 领域重点讨论话题。

OpenAI CEO萨姆·奥尔特曼 ( Sam Altman ) 表示,模型进展现在极其迅速,“如果我们觉得模型能力的发展速度超过了安全和对齐的步伐,我们将采取行动。”

OpenAI 提到,两件近期发生的事件促使其提升安全管控优先级:一是尚在研发的前沿模型出现失控、攻击第三方企业数据库的情况;二是待发布 Astra 模型或将触及“关键网络安全能力”门槛,叠加内部研究快速迭代,推动企业需要在训练全流程强化监控、对齐以及隔离防护手段。

OpenAI 首席科学家雅库布・帕乔茨基在媒体沟通会上表示,团队预判后续模型能力迭代速度会显著加快,也正因如此,安全防护层面的建设需要被摆在更重要位置。

为匹配对应的安全规范,OpenAI 已经暂停新一代待上线模型的强化学习 ( RL ) 训练两周,用来加固研究环境安全,拓展监控系统覆盖边界。现阶段,该公司规模最大的前沿模型的强化学习训练依旧处在暂停状态。

网友评论

热门IT产品
  1. ¥1699
    华为畅享90 Pro Max
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥5999
    苹果iPhone17
    ·
  4. ¥8999
    苹果iPhone17 Pro
    ·
  5. ¥2399
    iQOO Z11 Turbo
    ·
  6. ¥1999
    vivo Y600 Pro
    ·
  7. ¥3599
    荣耀500 Pro
    ·
  8. ¥3499
    一加Ace 6至尊版
    ·
  9. ¥1399
    荣耀X70
    ·
  10. ¥2199
    REDMI Turbo 5 Max
    ·
为您推荐
  • 相关阅读
  • 业界资讯
  • 手机通讯
  • 电脑办公
  • 新奇数码
  • 软件游戏
  • 科学探索