AI“造谣”，如何识破？公安部网安局今天公开“秘籍”_新浪财经

转自：北京日报客户端

时下，AI技术正在逐渐改变人们的生活方式，为解决许多问题提供途径，但也有造谣者借助AI工具，生产仿真度高的虚假信息。公安部网安局今天公布相关案件，提示要警惕AI被用来“造谣”。网警还提供“识别AI谣言秘籍”，请大家争做“谣言粉碎者”，共同抵制AI谣言。

近日，西安公安网安部门经工作查明，一网民利用AI生成软件，将一起多年前发生于外地的旧闻进行重新编辑，通过输入指令制作文案，将其包装成本地近期发生的事件。文案多处通过添油加醋的笔法虚构事实真相，以达到博取流量的目的，造成谣言传播扩散。目前，属地公安机关已依法给予该网民行政处罚。

警惕AI被用来“造谣”。网警列举，典型AI谣言场景包括：

伪造热点事件，用AI生成“某地重大事故”图文或视频，配煽动性标题博流量；

捏造名人言论，篡改语音、合成视频，假借权威人士发布虚假政策解读；

炮制伪科普，利用AI生成“科学数据”，兜售伪劣产品，如“AI检测抗癌神药”等；

嫁接虚假证据，将无关图片通过AI换脸、换背景，捏造“维权证据”“聊天记录”。

那么，如何识别AI谣言？

一是查源头。警惕无明确作者、无正规信源的内容，AI生成信息常伪装成“网友投稿”“内部消息”。

二是看细节。对于AI图像，观察手指数量异常、光影不自然等；对于AI视频，注意口型与声音不同步、背景模糊扭曲。

三是验逻辑。AI生成谣言常出现地名错误、时间矛盾等，比如“2024年政策”引用2025年数据。

在此，网警提示大家：要严守法律红线，不利用AI伪造公文、证件，不生成谣言、暴力等违法信息。抵制AI谣言，遇所谓“爆炸性新闻”做到“三不”：不轻信、不转发、不扩散。通过官方平台验证信息，发现AI谣言立即举报，保存证据协助溯源。不当“受害者”更别当“帮凶”，共担监督责任，主动标注AI生成内容，人人争做“谣言粉碎者”，共同维护清朗网络空间。

来源：北京日报客户端