近日，多地出现利用人工智能生成虚假视频散播网络谣言的事件。央视新闻报道指出，即使标注“由AI生成”，发布者仍因扰乱公共秩序受到行政处罚。今年3月，重庆市南岸区委网信办发现一段立交桥倒塌的虚假视频，该视频上线12小时获得大量点赞、转发和留言。经核实，南岸区近期并未发生此类事故。视频中的车辆文字、车牌及行人反应存在异常，确认为AI生成。发布者虽标注“内容由AI生成”，但仍被行政拘留6日。重庆市互联网违法和不良信息举报中心表示，根据治安管理处罚法，网民不得故意散布谣言、谎报险情、扰乱公共秩序；标注AI生成不能作为造谣传谣的免责条款。

类似案例在重庆涪陵区和四川武胜县也有发生。涪陵区网民蒋某发布虚假房屋倒塌视频后主动删除，警方对其进行批评教育。四川武胜县网安大队发现两段AI合成视频，发布者杨某为博取流量，发布虚假视频，被行政处罚。重庆数据显示，2025年重庆互联网辟谣平台辟谣内容中，AI生成信息占比近20%。专家分析，AI造谣频发的原因在于制作门槛低、视觉冲击强、溯源难度大。目前网民常用的AI生成视频软件可免费生成5至10秒的事故类视频，灾难谣言成为网络谣言的重灾区。根据《生成式人工智能服务管理暂行办法》，使用AI服务不得生成虚假有害信息。专家同时提醒用户，不得首发上传AI生成的虚假信息视频，转发前应核实信息真实性。