首页 > 热点播报 > 正文

AI技术发展面临安全挑战 需从源头防范数据投毒风险

随着AI技术快速发展,AI风险正以更隐蔽、更具破坏性的方式出现。近日曝出的生成式引擎优化(GEO)给AI大模型'投毒'事件引发广泛关注。专家指出,当前AI风险本质是技术发展与伦理治理、监管体系的失衡。

一方面,部分AI公司奉行'速度优先'忽视'安全优先',导致恶意插件轻易混入开源社区,AI大模型训练数据来源与审核机制不透明。另一方面,传统监管模式滞后于技术迭代,形成'能力已到、治理未到'的真空期。

专家建议,首先要为技术创新划定安全边界,对AI大模型公司提出更高风险防范要求,采用数据必须具备可解释性、可追溯性。其次要构建'多方协同'治理体系,完善法律法规,制定技术伦理规范与安全标准。最后需建立快捷的风险监测与预警机制。

专家强调,扎紧技术安全篱笆并非遏制创新,而是要在创新与安全间找到平衡,让技术发展始终行驶在合规向善的轨道上。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥4699
    HUAWEI Mate 80
    ·
  2. ¥3599
    荣耀500 Pro
    ·
  3. ¥2699
    HUAWEI nova 15
    ·
  4. ¥1399
    荣耀X70
    ·
  5. ¥5999
    苹果iPhone17
    ·
  6. ¥4499
    苹果iPhone17e
    ·
  7. ¥5299
    vivo X300 Pro
    ·
  8. ¥5299
    OPPO Find X9 Pro
    ·
  9. ¥2399
    一加 Ace 6T
    ·
  10. ¥3999
    一加15
    ·