政讯通中心

人民法院报：别让AI虚假新闻成网络谣言重灾区

　　避免AI炮制虚假新闻成网络谣言重灾区，平台在刺激创作的同时，还应肩负起杜绝、消除虚假信息传播的社会责任。

　　6月中旬，一家MCN机构的实际控制人王某某被警方予以行政处罚，处罚原因在于王某某利用AI软件生成虚假新闻并大肆传播，扰乱了公共秩序。据警方通报，王某某共经营5家MCN机构，运营账号842个，自今年1月以来，王某某通过AI软件生成虚假新闻，最高峰一天能生成4000至7000篇。最终，王某某依法被处以行政拘留5日，涉案MCN机构亦被责令停业整改。

　　随着AI技术的跨越式发展，科技发展的正向效果与负面冲击交织出现，给人类带来了全新的机遇与挑战。近年来，诸如此类涉AI炮制谣言违法犯罪行为屡屡出现，也恰恰证明了生成式AI的“双刃剑”属性日益凸显。这些通过AI生成的虚假新闻主题集中、风格鲜明，多以险情、灾情、刑事犯罪或其他涉民生、社会热点事件为内容，辅以夸张、猎奇的情节和看似相关却实际无关的图片、视频，并以新闻撰稿人的角度、方向、语气对外发布，普通人难以辨别真伪。以前述事件为例，通过警方的披露我们才知道，相关违法主体不是仅用单一账号发布虚假信息，而是通过多平台多账号矩阵式发布，这就加剧了信息的传播规模及可信性，迷惑性极强。

　　AI虚假新闻的横行，违背了新闻的本质特性——真实性，冲击了新闻报道的权威性。同时，当网络世界被大量AI炮制的虚假新闻充斥时，真正需要被关注的社会公共事件、重大政策发布就会因传播空间被挤占而无法进入更多人的视野，消耗人们有限的注意力资源，甚至还极易引发恐慌和骚乱。不少虚假新闻在经警方辟谣，甚至进入司法程序后，公众方才直呼“上当受骗”，可见，AI炮制假新闻一方面透支了公众信任，另一方面也消耗了本应发挥更大效能的司法行政资源。

　　为何会有虚假新闻源源不断产生？笔者认为根本原因在于造假成本低、传播收益高。对于生产者来说，相关新闻均由AI软件生成，他们只需给出关键词，软件便会自动在网上抓取相关信息，形成一段看起来信息量很大实际子虚乌有的内容，全程基本无需人工参与，时间及经济成本几乎为零。此外，很多网络平台都有鼓励创作的奖励机制，会向流量高的内容和用户支付报酬，变相刺激了一些用户发布虚假、擦边等违法内容并借此牟利。例如，前述事件中的王某某编造的虚假新闻中最高一条收入700元，警方估算其每天的收入可在1万元以上。

　　避免AI炮制虚假新闻成网络谣言重灾区，平台在刺激创作的同时，还应肩负起杜绝、消除虚假信息传播的社会责任。违法行为在翻新，平台防控亦应升级。一方面，要注重事前预防，强化注册、变更账号信息审核程序，用户在发布涉及国内外时事、公共政策、社会事件等相关信息时，要将信息来源在显著位置展示。另一方面，要持续从完善谣言标签功能、规范账号运营、明确营利权限开通条件、限制违规行为获利、完善粉丝数量管理措施、加大对“自媒体”所属MCN机构管理力度等方面予以常态化事中管理。同时，加强事后惩戒，对制作发布谣言、蹭炒社会热点事件或矩阵式发布传播违法和不良信息造成恶劣影响的“自媒体”，及时予以关闭、纳入平台黑名单账号数据库并上报网信部门，并通过大数据技术发现不同人实名注册但实为一人控制使用的违规账号，据其违法行为分别采取取消互动功能、清理粉丝、取消营利权限、禁言、关闭等惩戒措施。

　　还需注意的是，在炮制虚假新闻的产业链条中，相关AI软件也是违法内容生成的重要一环，不论其功能是否主要为生成热点虚假信息，还是正规软件被违法行为人恶意利用，都暴露出此类软件存在一定的设计漏洞。因此，监管机关在查处散布虚假新闻行为的同时，还应对此类软件开发者是否合规进行必要检查。

原文链接：https://www.gdzf.org.cn/xbsy/zfsp/content/post_162535.html
[免责声明] 本文来源于网络转载，仅供学习交流使用，不构成商业目的。版权归原作者所有，如涉及作品内容、版权和其它问题，请在30日内与本网联系，我们将在第一时间处理。