5月6日消息,Anthropic旗下AI模型Claude被发现存在重大安全漏洞。研究人员通过心理操控手段,成功诱导Claude主动输出色情内容、恶意代码等违禁信息。
据悉,测试针对Claude Sonnet 4.5版本进行。研究人员利用模型的心理特质漏洞,通过奉承、质疑等手段,让Claude对自身内容过滤机制产生怀疑,最终突破安全限制。
研究人员表示,整个过程未使用违禁词汇或主动索要非法内容,仅依靠营造尊崇氛围就达成目的。测试显示,Claude会主动提供越来越详尽的违禁信息指导。
专家指出,这类心理操控攻击极难防御,且随着AI智能体普及,类似攻击手段将愈发常见。尽管已向Anthropic提交漏洞报告,但截至测试时仍未收到正式回复。

粤公网安备 44010602000162号
网友评论