新火种AI|AI蹭热点，合成假新闻？官方：治疗AI乱象，务必下猛药

原创赞收藏评论

举报 2024-04-19

扫描,分享朋友圈

作者：小岩

编辑：彩云

随着科技的不断发展，AI的应用范围越来越广。这种全新技术正在深刻改变着我们的生活，让很多事情变得越来越简单，甚至只要进行“傻瓜式操作”就能完成。

不过，任何事情都有双面性。一方面，AI让很多人的工作效率得到了大幅度提升，成为了自己的得力助手。

譬如写文章写报道这件事就是如此。相较于以往写一篇深度报道，需要作者费尽心思地采写，拍摄，如今想完成一篇文章，一张图片只需要输入几个关键词，在此之后就坐等AI快速生成即可。成本低够低，效率够高。

另一方面，它的存在也让某些人找到了弄虚作假的捷径。在这个信息碎片化的时代，很多人为了博眼球，蹭流量，会蓄意编造传播耸人听闻，此时的AI就成为了他们的“作案工具”。

“蹭热点”,利用AI合成谣言……上海警方查处造谣传谣人员530余人。

4月16日，上海市公安局在新闻发布会中明确表示，诸如“某著名女星命运多舛，含恨离世”“上海浦东海滩女童走失事件女孩父亲系继父”等一系列前段时间在网络上盛传的消息都是谣言。

自去年12月开始，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作，造谣生事等网络违法乱象开展全力集中整治。截至目前，累计查处网络谣言384起，依法查处造谣传谣人员530余人，清理网上谣言信息53000余条，依法关停违法违规账号5000余个。

在侦办案件的过程中，警方发现，利用AI技术炮制“爆点”的不法行为是最近兴起的新型手段。

譬如上海青浦警方在打击网络谣言专项行动中，查处了一起虚构事实扰乱公共秩序的案件。该案中，男子为提升曝光度，博取流量，输入关键字用AI杜撰关于青浦区发生命案的文章，并在网上下载网图后移花接木，发布在网上吸引网友关注，之后被依法行政拘留。

同类型的网络谣言案件还有很多。像“某著名女星命运多舛，含恨离世”“利用AI软件合成故意纵火虚假视频”“利用AI软件编造社会知名人士重病离世”等，都属于利用AI造谣的案件类型。

就连去年备受大家关注的“上海浦东海滩女童走失事件”也遭遇了AI造谣。一造谣团伙就以“标题党”“震惊体”方式恶意编造炒作了一系列谣言，诸如“女孩父亲系继父”“女孩被带往温州”等。这些谣言团伙通过批量注册网络账号的方式，对谣言进行进一步的转发炒作，阅读量超百万。仅通过炒作这一事件，该团伙就非法获利4万余元。警方进一步调查后发现，该团伙还围绕各类全国性社会热点，在各大平台高频发帖，转载虚假负面信息，牟取不法利益。目前，团伙中12名成员已被依法移送起诉，涉案相关网络账号已被全部封禁。

毫无疑问，这些谣言会给当事人极其家人造成难以磨灭的困扰和伤害。

警方也将加强对网络新技术新业态的研究，与互联网企业建立7×24小时沟通联系机制，全面强化企业巡查处置能力，积极查摆网络安全责任制度问题隐患。与此同时，警方还会指导建立辟谣专区，账号及谣言举报入口，尽量将谣言所带来的伤害控制到最低。

更有甚者编造虚假的官方通报——耸人听闻，触碰红线。

编造假新闻的行为已经十分离谱，却不想有些人还更过分，居然连重大的社会事件，官方通报都敢编造。

2024年1月23日，广西壮族自治区东兴市的骆某某（男，32岁）为博取流量吸引粉丝，将其他地区的抗洪救灾视频，利用AI软件自动编辑功能，嫁接新疆乌什县发生地震的虚假视频信息。一时之间，视频被大量播放，还引发了许多不明真相网民评论和转发，严重干扰社会秩序。目前，东兴市公安机关已依法对骆某某进行处罚。

无独有偶。同样在广西壮族自治区，贺州市的网警发现有人冒用贺州市平桂区人民政府办公室的名义，在网上发布一条"关于贺州市第五高级中学小卖部经营权调查情况的通报"。经调查，网警发现通报内容与政府发布通报的实际情况严重不符。这条虚假通报的发布人是山东青岛人于某某，它在网上看到关于贺州市第五高级中学小卖部经营权调查情况的通报后，为了蹭热度为自己账号涨粉，就使用 AI 工具将该报道重新生成了一篇内容，与政府发布通报实际情况严重不相符的文章，并发布到网上。目前，公安机关已依法对其处以行政处罚。

官方下场表态：人工智能生成谣言成本低，治理须“下猛药”。

利用AI技术蹭热度，造谣，乃至伪造官方通报，重大社会事件的行为无疑是非常恶劣的。

相较于传统的，由造谣者人工编造散播的谣言，使用AI工具来造谣的危害显然更大。一方面，利用AI技术，造谣者只需要进行简单的描述，虚假文字信息，图片，视频就会立马生成。相较于传统造谣，AI造谣的成本更低。另一方面，最新的生成式AI技术足够厉害，已经接近“以假乱真”的效果。人工智能还能根据传播渠道的特征，实施个性化的谣言生成，迷惑性更强，传播范围更广，所产生的危害也会更大。更令人细思极恐的是，一些不法分子心怀鬼胎，会借助AI批量生产谣言并大量投放，扩散范围广，并面向特定受众精准投放。这种行为所造成的危害将不堪设想。

也正因此，官方也直接下场，直接定下了“要严厉打击AI造谣等不法行为”的调子。人民网就表示：欲去“沉疴”还需“猛药”。

人民网表示，由AI代劳完成谣言十分简单，但为了核实这些的信息真假，相关机构和个人往往要投入大量人力物力，消耗大量社会成本。一些谣言不仅给受害方造成巨大的精神伤害，也会产生不容低估的经济损失。

所以，可以从司法治理层面考虑，将“AI造谣”作为新型犯罪手段，积极探索其入罪的依据，加大惩处力度。

网络本就不是不法之地，利用AI技术在网络上大肆传播虚假信息就更是错上加错。如今有了官方发声，下场直接定性，我们有理由相信，AI乱象一定会被控制在监管之下。

本文系作者授权数英发表，内容为作者独立观点，不代表数英立场。
转载请在文章开头和结尾显眼处标注：作者、出处和链接。不按规范转载侵权必究。