谷歌AI聊天机器人Gemini遭遇大规模蒸馏攻击 单次攻击提示超10万次

据悉，谷歌近日表示其AI聊天机器人Gemini正遭遇大量“蒸馏攻击”。攻击者通过重复提问诱导聊天机器人泄露内部机制，试图探测其模型输出模式与逻辑，从而克隆该模型或强化自己的AI系统。其中一场攻击活动对Gemini的提示次数超过10万次。

谷歌表示这些攻击主要由商业动机行为者发起，幕后人员多为希望获得竞争优势的AI私企或研究机构。攻击源来自全球多个地区，但谷歌拒绝披露更多关于嫌疑方的信息。

谷歌威胁情报小组首席分析师指出，针对Gemini的攻击规模表明，此类攻击很可能已开始或即将蔓延至小型企业的定制AI工具领域。谷歌强调此类蒸馏攻击属于知识产权盗窃，尽管已部署识别与阻断机制，但主流大模型服务本质上仍易受攻击。

据悉，多数攻击旨在套取Gemini的“推理”算法。专家警告，随着越来越多公司开始训练面向内部业务的定制LLM，且这些模型可能包含敏感数据，蒸馏攻击的潜在危害会更大。