央视曝光AI生成虚假带货视频乱象 消费者难辨真伪监管部门面临新挑战

近日网络直播间出现利用AI生成虚假产品视频进行带货的现象。一些商家使用AI生成的辣椒种植视频夸大产量，主播声称“所见即所得”，但实际产量与视频展示相差甚远。

专家指出，AI技术无法感知真实世界的物理规律。樟树港辣椒实际亩产仅2000-3000斤，而视频展示的虚假产量超过6000斤。法律专家表示，此类行为涉嫌民事侵权甚至刑事犯罪。

尽管各大平台已升级AI内容识别系统，要求标注AI生成内容，但仍有人绕过审核。随着生成式AI用户达2.3亿，AI生成信息的泛滥给监管带来新挑战。