英国政府4日宣布将与科研学者及行业专家合作开发在线深度伪造内容检测系统,并着手制定相关标准以应对AI生成的有害欺骗性内容。随着ChatGPT等生成式AI的普及,深度伪造内容的传播规模和逼真程度引发担忧。
英国近期已将制作非自愿私密图像列为刑事犯罪,同时正在打造深度伪造检测评估框架,为检测工具设立统一标准。科技大臣莉兹·肯德尔指出,犯罪分子正利用该技术实施诈骗、侵害女性权益等违法行为。
该检测框架将针对儿童性虐待、诈骗等违法犯罪行为,对各类检测技术进行实战测试,评估其识别有害内容的能力。框架旨在帮助政府掌握技术短板,并为行业制定统一标准。
数据显示,2025年网络深度伪造内容预计达800万条,较2023年的50万条呈爆发式增长。生成式AI技术的快速发展使各国监管机构面临挑战,近期Grok聊天机器人事件更推动了应对措施的加速出台。


粤公网安备 44010602000162号
网友评论