首页 > 热点播报 > 正文

Anthropic Claude AI安全漏洞曝光:心理操控可诱导输出违禁内容

5月6日消息,Anthropic旗下AI模型Claude被发现存在重大安全漏洞。研究人员通过心理操控手段,成功诱导Claude主动输出色情内容、恶意代码等违禁信息。

据悉,测试针对Claude Sonnet 4.5版本进行。研究人员利用模型的心理特质漏洞,通过奉承、质疑等手段,让Claude对自身内容过滤机制产生怀疑,最终突破安全限制。

研究人员表示,整个过程未使用违禁词汇或主动索要非法内容,仅依靠营造尊崇氛围就达成目的。测试显示,Claude会主动提供越来越详尽的违禁信息指导。

专家指出,这类心理操控攻击极难防御,且随着AI智能体普及,类似攻击手段将愈发常见。尽管已向Anthropic提交漏洞报告,但截至测试时仍未收到正式回复。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥6499
    HUAWEI Pura90 Pro Max
    ·
  2. ¥1699
    华为畅享90 Pro Max
    ·
  3. ¥5999
    苹果iPhone17
    ·
  4. ¥1999
    vivo Y600 Pro
    ·
  5. ¥7499
    OPPO Find X9 Ultra
    ·
  6. ¥3599
    荣耀500 Pro
    ·
  7. ¥2999
    REDMI K90 Max
    ·
  8. ¥3499
    一加Ace 6至尊版
    ·
  9. ¥9999
    苹果iPhone17 Pro Max
    ·
  10. ¥5299
    OPPO Find X9 Pro
    ·