主办:中共陕西省委网信办 承办:陕西省网络举报中心

大反转!假的,确认系AI生成

近日

常州一自媒体博主

在社交平台发布了

一条“千里送娃上名校”的视频

引发网友关注

网络视频截图

视频画面显示,在高速路上,一辆车牌号“苏DWE985”的面包车正在前行,面包车后门张贴的红纸上写着“四千里陪闺女,哈工大启新程,请让我先走,谢谢”。视频配文写道:“路上活捉一辆‘学霸专车’!苏DWE985,后窗上还贴着‘哈工大报到’,大哥这排名拉满了。”朴素的面包车、“985”尾号车牌、送学子入读名校的叙事,引发网友的情感共鸣,在微信视频号上收获了近万点赞,评论区内大量网友纷纷表示羡慕和祝福。

不过,有细心的网友发现:视频末尾最后两秒,车牌号“985”突然变成了“995”,对这个视频的真实性提出了疑问。媒体也在视频画面左下角发现一行包含“AI生成”字样的小字,但据了解,该字样并非博主主动标注,是平台自动生成的内容备注。

针对网传内容,媒体向常州警方核实相关信息,相关负责人表示,经官方系统核查确认,无“苏DWE985”号牌的备案记录,“苏DWE995”有登记,却并非视频中的白色面包车,视频画面里的车牌字符光影、细节存在AI生成痕迹,是博主专门通过制造戏剧化巧合,放大传播效果。

警方表示,机动车号牌是公安机关交通管理部门核发的法定车辆识别标志,网友P图篡改号牌并在网络传播,容易误导公众,也存在被效仿的风险,情节严重的还将依法承担相应法律责任。

AI谣言呈井喷式增长

AI造谣事件并非偶发个案,近年来AI谣言经常出现在各类公共事件中,误导公众认知。层出不穷的AI造谣案件,揭示了一个值得全社会警惕的趋势:即人工智能极有可能被不法之徒利用,让伪造信息、编造谣言的技术门槛不断走低、成本大幅下降,而因谣言付出的社会代价则可能持续攀升。

面对井喷式增长的AI谣言,仅靠传统的人工核查显然力不从心。有效遏制AI谣言,需树立“以技治技”的解决思路,搭建起覆盖实时监测、智能识别、追本溯源、风险预警的全链条智能防线。以抖音平台为例,2025年,在AI大模型技术的助力下,其识别疑似信息的时效单位从“天”缩短为“小时”,全年谣言内容曝光量下降90%,凸显技术反制在谣言治理中的优势。

筑牢长效治理根基,既要依托技术破局,更要厘清多方权责。监管部门须加强治理的系统性与前瞻性,构建事前预防、事中干预、事后追责的全周期监管体系,推动工作从“被动监管”向“主动服务”转变。执法部门要健全协作机制,强化联动配合,持续加大对AI造谣黑灰产的打击力度,抬高违法违规成本。平台作为信息分发枢纽,需严格落实《人工智能生成合成内容标识办法》等管理要求,对未规范标注的内容进行补标或纠正。同时,对社会热点和敏感议题加大审核监测力度,一旦发现AI谣言,立即采取限流、下架等措施,并对造谣传谣的账号依规实施禁言等处罚。

AI造谣可被追究刑责

我国治安管理处罚法规定,故意散布谣言,谎报险情、疫情、灾情、警情或者以其他方法故意扰乱公共秩序的,处五日以上十日以下拘留,可以并处一千元以下罚款;情节较轻的,处五日以下拘留或者一千元以下罚款。

刑法第二百九十一条规定,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。

司法实践中,相关案件判决已明确了AI造谣的刑事追责尺度,为AI造谣敲响了警钟。今年4月,湖南省首例AI造谣涉刑案件宣判,犯罪嫌疑人阳某为吸粉引流,使用AI剪辑软件制作发布了“化工厂重大事故”“持刀抢劫珠宝店”等恶性虚假视频,引发网民恐慌。阳某因犯寻衅滋事罪,后被法院依法判处有期徒刑六个月。

官方抖音
官方微博
官方微信
返回顶部