随着科技的不断发展，人工智能（AI）的应用范围越来越广泛。这种全新技术正在深刻改变着我们的生活，让很多事情变得更加简单，甚至只需要进行简单的操作就能完成。
不过，任何事情都有两面性。一方面，人工智能使许多人的工作效率大幅提升，成为了他们的得力助手。
譬如写文章写报道这件事就是如此。相较于以往写一篇深度报道，需要作者费尽心思地采写，拍摄，如今想完成一篇文章，一张图片只需要输入几个关键词，在此之后就坐等人工智能快速生成即可。成本低够低，效率够高。
另一方面，AI的存在也让一些人找到了欺骗的捷径。在这个信息碎片化的时代，许多人为了吸引注意力、获取流量，会故意编造和传播耸人听闻的内容，而AI就成为了他们的“作案工具”。
“蹭热点”,利用AI合成谣言……上海警方查处造谣传谣人员530余人。
4月16日，上海市公安局在新闻发布会中明确表示，上海市公安局否认了之前在网络上流传的一系列消息，包括“某著名女星命运多舛，含恨离世”和“上海浦东海滩女童走失事件女孩父亲系继父”等。
自去年12月开始，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作，造谣生事等网络违法乱象开展全力集中整治。截至目前，累计查处网络谣言384起，依法查处造谣传谣人员530余人，清理网上谣言信息53000余条，依法关停违法违规账号5000余个。
在侦办案件的过程中，警方发现，利用人工智能技术制造“爆点”的非法行为是最近兴起的新型手段。
譬如上海青浦警方在打击网络谣言专项行动中，查处了一起虚构事实扰乱公共秩序的案件。该案中，一名男子为了提高自己的知名度和吸引更多的关注，使用人工智能技术编写了一篇关于青浦区发生命案的虚假文章，并在网上下载了一些图片进行伪装，然后发布在网络上。随后，该男子被依法行政拘留。
同类型的网络谣言案件还有很多。例如“某著名女星命运多舛，含恨离世”、“利用AI软件合成故意纵火虚假视频”、“利用AI软件编造社会知名人士重病离世”等，都属于利用AI造谣的案件类型。
就连去年备受大家关注的“上海浦东海滩女童走失事件”也遭遇了人工智能造谣。一个造谣团伙就以“标题党”“震惊体”方式恶意编造炒作了一系列谣言，比如说“女孩父亲是继父”“女孩被带往温州”等。这些谣言团伙通过批量注册网络账号的方式，对谣言进行进一步的转发炒作，阅读量超过了一百万次。仅仅通过炒作这一事件，该团伙就非法获利超过了4万余元。警方进一步调查后发现，该团伙还围绕各类全国性社会热点，在各大平台高频发帖，转载虚假负面信息，谋取不法利益。目前，团伙中12名成员已被依法移送起诉，涉案相关网络账号已被全部封禁。
毫无疑问，这些谣言会给当事人及其家人带来极大的困扰和伤害，对他们造成难以消除的影响。
警方还将加强对网络新技术新业态的研究，与互联网企业建立全天候沟通联系机制，全面提升企业巡查处置能力，积极发现和解决网络安全责任制度问题隐患。同时，警方还会指导建立辟谣专区，提供账号及谣言举报入口，尽量将谣言所带来的伤害控制到最低。
更有甚者编造虚假的官方通报——耸人听闻，触碰红线。
编造虚假的新闻报道的行为已经十分不可接受，然而有些人却更加过分，居然连重大的社会事件，官方通报都敢捏造。
2024年1月23日，广西壮族自治区东兴市的骆某某（男，32岁）为了吸引更多的粉丝和流量，采用了利用AI软件自动编辑功能将其他地区的抗洪救灾视频与新疆乌什县发生地震的虚假视频信息进行嫁接。这个虚假视频信息在短时间内被大量播放，引发了许多不明真相的网民评论和转发，对社会秩序造成了严重干扰。目前，东兴市公安机关已依法对骆某某进行了处罚。
在广西壮族自治区贺州市，网警发现有人冒用贺州市平桂区人民政府办公室的名义发布了一条虚假通报。这条通报声称是关于贺州市第五高级中学小卖部经营权调查情况的通报，但经过调查发现，通报内容与政府发布的实际情况严重不符。发布这条虚假通报的人是山东青岛人于某某，他在网上看到了关于贺州市第五高级中学小卖部经营权调查情况的通报后，为了蹭热度和增加自己账号的粉丝数量，使用了AI工具将该报道重新生成了一篇与政府发布通报实际情况严重不相符的文章，并发布到网上。目前，公安机关已依法对其处以行政处罚。
官方下场表态：人工智能生成谣言成本低，治理须“下猛药”。
利用人工智能技术追求热度，散布谣言，甚至伪造官方通报，对于重大社会事件的行为无疑是非常恶劣的。
相较于传统的，由造谣者人工编造散播的谣言，使用AI工具来造谣的危害显然更大。一方面，利用AI技术，造谣者只需要进行简单的描述，虚假文字信息，图片，视频就会立马生成。相较于传统造谣，AI造谣的成本更低。另一方面，最新的生成式AI技术足够厉害，已经接近“以假乱真”的效果。人工智能还能根据传播渠道的特征，实施个性化的谣言生成，迷惑性更强，传播范围更广，所产生的危害也会更大。更令人细思极恐的是，一些不法分子心怀鬼胎，会借助AI批量生产谣言并大量投放，扩散范围广，并面向特定受众精准投放。这种行为所造成的危害将不堪设想。
也正因此，官方也直接采取行动，直接确定了“要严厉打击AI造谣等不法行为”的立场。人民网就表示：欲解决这个问题还需要采取强硬措施。
人民网表示，由AI代劳完成谣言的辨别和核实工作十分简单，但为了确保这些信息的真实性，相关机构和个人往往需要投入大量人力物力，从而消耗大量社会资源。一些谣言不仅给受害方造成巨大的精神伤害，还可能导致不可忽视的经济损失。
所以，可以从司法治理层面考虑，将“人工智能造谣”作为新型犯罪手段，积极探索其入罪的依据，加大惩处力度。
网络本就不是不法之地，利用人工智能技术在网络上大肆传播虚假信息就更是错误累加。如今有了官方发声，下场直接定性，我们有理由相信，人工智能乱象一定会被控制在监管之下。
