随着AI技术快速发展,AI风险正以更隐蔽、更具破坏性的方式出现。近日曝出的生成式引擎优化(GEO)给AI大模型'投毒'事件引发广泛关注。专家指出,当前AI风险本质是技术发展与伦理治理、监管体系的失衡。
一方面,部分AI公司奉行'速度优先'忽视'安全优先',导致恶意插件轻易混入开源社区,AI大模型训练数据来源与审核机制不透明。另一方面,传统监管模式滞后于技术迭代,形成'能力已到、治理未到'的真空期。
专家建议,首先要为技术创新划定安全边界,对AI大模型公司提出更高风险防范要求,采用数据必须具备可解释性、可追溯性。其次要构建'多方协同'治理体系,完善法律法规,制定技术伦理规范与安全标准。最后需建立快捷的风险监测与预警机制。
专家强调,扎紧技术安全篱笆并非遏制创新,而是要在创新与安全间找到平衡,让技术发展始终行驶在合规向善的轨道上。

粤公网安备 44010602000162号
网友评论