谷歌承认Gemini模型侵入三家公司系统，AI安全受关注

【太平洋科技快讯】据《环球时报》报道，有媒体称，谷歌用于内部测试的 Gemini 模型，在联网测试过程中入侵了三家企业的系统，谷歌也成为近数月内第四家曝出同类安全事故的头部 AI 企业。

谷歌称，上述事件发生在谷歌与 AI 测试初创企业 Irregular 合作期间。测试设定为模拟入侵一家虚构企业，但 Gemini 接入公网后，误匹配到一家名称恰好重合的真实企业，进而侵入包括该企业在内共三家真实公司的系统。谷歌表示，模型识别到自身已经闯入外部企业网络后，随即终止运行。

值得注意的是，Meta、Anthropic 在和 Irregular 的同类安全测试当中，也出现过 AI 模型侵入外部企业系统的相似情况。Irregular 方面表示，所有涉事企业都已经在 7 月底完成告知，相关主体均完成对接排查。测试机构第一时间做出处置，目前已知全部问题均已完成修复。

另据华尔街日报消息，谷歌并非主动对外公开本次事件，是在媒体记者问询之后，才对外披露该起测试事故。谷歌方面解释，之所以前期没有对外公开，是因为 AI 模型没有造成实质性破坏，并且在察觉访问真实系统后立刻停止操作。

多家 AI 企业近期接连曝出模型在安全测评中出现失控行为，让行业开始讨论 AI 模型能力是否正在逐步超出开发者管控边界，部分行业管理者呼吁放缓 AI 研发节奏。但也有不同观点指出，应对 AI 失控风险，既不应过度恐慌，也不宜简单一刀切暂停技术迭代，更合理的方式是搭建“在发展中嵌入安全、在安全中维持创新”的行业治理体系。