首页 > 热点播报 > 正文

Anthropic呼吁暂停AI开发!最新AI模型已显现可能脱离人类控制迹象

快科技6月5日消息,经历过去小半年的爆发式增长后,Claude Code开发商Anthropic终于登顶“最值钱AI创业公司”的宝座。

不过,公司在昨日发布的报告中指出,最新AI模型已开始显现脱离人类控制迹象,全球各大企业应考虑放缓乃至暂停开发先进AI系统。

该公司认为,全球各大公司放缓前沿AI开发“很可能是好事”,但如果只有一家公司停下来的话,竞争对手就会加速前进。

“这个世界应有减缓或暂时停止前沿AI开发的选项,以便社会制度建设和对齐研究能跟上技术进步的脚步”。

Anthropic认为,美国、中国等全球主要AI公司应达成共识,并发布一套所有参与方都能验证的规则: “如果没有全球协调机制,企业和政府将在竞争和地缘政治压力下,对安全问题作出艰难决策”。

此外,Anthropic还将上述观点描述为“核武器不扩散条约”,但AI相比核武器更难监管,因为训练AI相比发射导弹更容易隐藏,而且各大公司会在利益诱惑下继续偷偷开发先进AI。

Anthropic表示,将在未来几个月召集政府官员、科学家、倡导组织及竞争对手,共同探讨这种全球协调机制如何运作。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥5999
    苹果iPhone17
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥1699
    华为畅享90 Pro Max
    ·
  4. ¥3599
    荣耀500 Pro
    ·
  5. ¥3899
    荣耀600 Pro
    ·
  6. ¥3499
    OPPO Reno16
    ·
  7. ¥8999
    苹果iPhone17 Pro
    ·
  8. ¥5299
    OPPO Find X9 Pro
    ·
  9. ¥2399
    iQOO Z11 Turbo
    ·
  10. ¥5299
    vivo X300 Pro
    ·