央视曝光多款AI应用存在涉黄生成漏洞：提示词“换皮”即可生成大尺度视频

【太平洋科技快讯】近日，央视曝光多款生成式AI应用存在严重内容安全漏洞，平台审核机制薄弱，用户通过简单修改提示词即可轻易绕过限制，生成大尺度甚至涉黄图片与视频。

实测显示，直白的涉黄提示词虽会被平台拦截，但将敏感内容替换为含蓄表述、英文或暗语后，违规内容便可顺利生成。在多款主流AI平台中，使用网购的隐晦提示词，数分钟内即可生成涉黄视频，且全程不会触发审核拦截。

据报道，AI涉黄已形成分工明确、牟利猖獗的黑色产业链，涵盖违规提示词售卖、生成教程、批量造黄、付费换脸造假等多个环节。部分商家公开兜售定制提示词，并结合境外工具或本地部署模型进一步规避监管；还有付费AI生成工具宣称充值后可一键将普通照片转为涉黄视频，严重突破法律与伦理底线。

此类AI滥用行为不仅严重污染网络生态，还容易引发涉黄内容传播、敲诈勒索、造谣诽谤等违法犯罪活动，对未成年人身心健康与网络空间秩序造成极大危害。

目前我国已出台相关法律法规，明确要求平台履行内容安全主体责任，强化算法审核与风险防控，严禁生成、传播淫秽色情信息。监管部门正通过“清朗”专项行动持续整治，严厉打击利用AI制作低俗内容、违规提供生成服务等行为，督促平台升级审核技术，封堵提示词绕过漏洞。