AI造谣日产19万篇？四招教你一眼识破！

在AI技术深度介入信息生产的当下，网络谣言正以“低成本生成、高仿真传播、产业化牟利”的新形态冲击社会信任体系。从“每20个‘80后’就有1人去世”的荒诞数据，到“冰雹大如鸡蛋砸穿汽车”的虚假灾情，再到“顶流明星澳门豪赌输光十亿”的猎奇炒作，利用AI编造和传播谣言的案例屡见不鲜。中央网信办启动“清朗・整治AI技术滥用”专项行动，标志着对AI谣言治理的全面升级，如何实现AI谣言识别与治理正成为当下网络舆论社会治理的新命题。

01 AI如何重塑网络谣言生态

AI谣言是指利用人工智能技术生成的虚假信息，包括但不限于文本、图片、视频等。技术加持使得AI谣言比传统谣言生产成本更低，更具有误导性和欺骗性。

1.AI谣言生成门槛更低。

过去造谣主要靠人工撰写、剪辑，速度有限。而AI的引入使谣言生产实现了自动化和批量化。利用生成模型，“造谣机器人”可以在极短时间内编造出海量稿件和图像。例如，央视新闻报道西安警方破获的一款名为“翠绿笔墨”的AI写稿软件，一天能自动生成19万篇文章，7天可达上百万篇。

AI模型自身的“幻觉”特性（即生成无事实依据的内容）也成为谣言源头之一。例如“宁波交警抖音账号因保时捷交通事故被注销”的谣言，正是AI模型自身生成无事实依据内容，部分网民因轻信AI内容而误传谣言，经官方辟谣才得以平息。

2.AI谣言辨别真伪更难。

通过图像生成技术，可以凭空捏造从未发生的场景；借助语音合成技术，能够伪造当事人的发言；利用深度伪造视频，甚至能制造公众人物虚假言行的视频。

通过深度学习，AI模型可模仿正式报道的口吻，使造假内容“像模像样”，误导读者认为内容“权威可信”，甚至伪造数据表格增强可信度；对现有新闻或信息进行快速、深度的“洗稿”，生成大量语义相似但表述各异的变体内容，以规避查重和内容审查，使虚假信息的持续、变相传播。

《瞭望》新闻周刊报道称，中国互联网联合辟谣平台近一年来公布的近300条谣言中，有87%的谣言包含具体地点，21%附有数据表格，其逼真程度远超传统谣言。

3.AI谣言传播效率更高。

AI谣言常与网络水军和机器人账号相结合，形成谣言的协同传播。过去一个人造谣可能局限在朋友圈或少数平台，如今社交媒体上存在大量的“社交机器人”,能够快速、大规模地发布和转发内容,迅速扩大谣言的传播范围和速度。

此外，AI造假滋生出专业化、产业化的谣言账号矩阵。传统自媒体造假多是单打独斗的小号或个人，为一两次爆款博出位；而AI造假催生了有组织的造谣团伙，他们养殖大量账号，形成谣言传播网络，经营模式更像“黑灰产”。如2024年6月，江西警方披露一起利用人工智能造谣的案件。据通报，涉案MCN机构通过AI软件生成内容的方式，短时间内生成了大量文章，最高峰一天能生成4000到7000篇。

02 四招识破AI谣言“伪装术”

看风格，AI谣言常采用“第一人称+夸张描述+段落式情绪渲染”格式，渲染紧张氛围以吸引注意，以新闻风格配合惊险“灾情”细节提高可信度。

查细节，谣言文本中经常出现具体地名、机构名、人名等真实元素，以增强信服力。如发现文章只附“某平台报道”等模糊来源，则应提高警惕。

辨配图，配图边缘模糊，或标注为“xxAI生成”。阅读信息时可注意检查信息源真实性。

盯账号，账号发文呈现出高度规律化和策略性，有明显的操纵迹象。发文时间集中在凌晨至清晨（如2:00—6:00），明显脱离常规作息与发布习惯，发文频率高且间隔规律。

03 清博三步构建AI谣言智控防线

一是及时发现谣言苗头。依托全网7*24小时清博舆情系统，实时捕捉AI谣言苗头，通过内容特征识别技术精准判定信息属性，包括网络暴力、深度伪造、色情低俗等违法违规内容，第一时间触发预警机制，为谣言处置争取黄金窗口期。

二是精准溯源谣言链条。针对传播中的不实信息，可通过清博传播影响力分层模型，对传播账号按粉丝量、转发量等指标分级，锁定扩散路径；结合行为模式分析，识别“多账号联动发布”“高频使用特定标签” 等异常传播特征，揪出隐藏的谣言传播矩阵。

三是有效应对声誉风险。针对AI 谣言的传播态势，清博同步输出应对策略，提升处置效能；通过合规手段高效维权，最大限度降低声誉损失，以法治手段守护权益。

清博智能旗下的产品大多开放免费试用权限，想体验我们的产品，欢迎私信咨询~对咱们文章有兴趣或者有意见的朋友也可以扫码私信勾搭Q仔哦~