2月24日
，今日头条在北京举办平台治理开放日，围绕AI谣言 、同质化发文
、网络诈骗等热议的网络治理焦点 ，与会嘉宾共同分享今日头条过去一年来在安全治理、内容生态等方面的细致举措及有效经验。

活动现场
，今日头条相关业务负责人与学界专家纷纷发表演讲，对近年来AI谣言与AI技术治理等议题给予了高度关注 。

今日头条生态治理运营负责人韩雨桐介绍称 ，平台很早就关注到AI谣言等情况 、问题的出现
，更针对性升级
、迭代了AI模型的识别能力
。在四位一体防御工事外，还建立起了包括谣言库、权威信源库以及专业审核团队在内的三大核心治理能力 ，全面优化了AI谣言的防控水平，加强了对AI谣言 、低质内容的可靠治理和管控。

会上
，清华大学新闻与传播学院副教授陆洪磊分享了题为《AI谣言治理：多方协力的数字战役》的演讲，在聚焦AI谣言产生背景及特点 。他指出 ，伴随AI技术的进一步应用
，生成式AI正在重塑网络信息的传播生态，体现在内容端就是AI谣言的日益猖獗
。在AI的加持之下 ，谣言实现了分平台
、分渠道、分时段 、分媒介的定制化发布
，为网络环境带来了更加严峻的跨平台影响。其低廉的成本和倍率传播特性，使得辟谣难度大幅增加 。而AI技术自我学习和自我强化的特性 ，匹配AI生成图片等造假手段
，使得AI谣言越来越逼真，对于内容平台来说这无疑是一场需要特别关注的“进化危机 ”
。

如何应对这一新的态势 ，陆洪磊以今日头条为例
，指出今日头条平台所采取的“内容治理制度、内容审核
、辟谣教育、内外联动
”四位一体防御工事，为AI谣言的治理提供了一条具有可行性的发展之路。

事实证明 ，今日头条对AI谣言的相关治理举措卓有成效 。不久前今日头条发布的《2024年度治理报告》中显示，截止2024年底
，今日头条平台已处理低质AI内容超93万条，禁言 、封禁相关账号超2.9万个 ，用户关于低质AI内容的负反馈量级从28条/天降到了2条/天
，有效抑制和打击了AI谣言的传播链条与传播温床
。

陆洪磊认为，AI谣言的治理难以依靠单一力量来完成 ，需要联动各方建立谣言线索互通机制。在协同治理方面
，平台需要做好技术的守门员，加强跨平台辟谣合作 ，破解AI谣言的“deepfake”陷阱；平台也可以考虑推出“事实快速核验通道 ”
，激发用户的反谣言意识，便于遏制谣言的传播 。执法机构需要做好法治保障的护盘手 ，加快相关法律细则的出台和落实
，建立“技术取证-电子证据-司法鉴定
”的全链条执法标准；而每位网民则都应当成为理性的受者和传者，转发前思考三秒 ，分析一下信息来源是否真实
、逻辑是否合理、是否属于诱导内容等，并对可疑内容主动进行核实。

陆洪磊总结道
，魔高一尺，道高一丈
。当网友发现AI图片中的异常字母时 ，他们会在评论区自发形成的“真相拼图”
，这正是协同治理最生动的注脚。