在数字时代，虚假信息的传播如同泡沫般迅速膨胀，但终究难以持久。
11月12日开福公安发文称，近日一则标题为《山东大妈摆摊卖水果被罚16万，监管局回应不交罚145万，法院判了》的文章在网络上广为流传。
该文章一经发表，阅读量瞬间突破7万次，迅速引起网民的关注和议论。
图片来源：开福公安
经当地有关部门核实，发现该文章内容为不实信息，且是由位于长沙市开福区某MCN公司发布。接到报警线索后，开福公安分局网安大队、通泰街派出所立即联动开展调查工作。
据该公司员工彭某交代，他主要负责公司代为运营的公众号文案编辑工作，为增加公众号的阅读量与公司收益，彭某按照公司领导李某的要求，在网上寻找吸引眼球的文章和新闻，并利用AI工具，生成内容相近但地点和数据有所变化的雷同虚假文章来博取眼球。
随后，该公司代为运营的公众号发布“山东大妈摆摊卖水果被罚16万”虚假文章被当地部门辟谣，为逃避法律责任,李某便将此文章删除。同时，为了应付公众号运营委托方，李某还请人伪造了虚假网站，并刊载该虚假文章及其他热点新闻以证明文章来源有据可查。
图片来源：开福公安
目前，该公司法定代表人李某、员工彭某被公安机关依法行政拘留。最后警方提醒：网络不是法外之地！对在网上蓄意歪曲事实、编造传播谣言，扰乱社会秩序的违法行为，公安机关将坚决依法处理。希望广大网民保持理性思考，提高防范意识，积极抵制网络谣言。做到不造谣、不信谣、不传谣。携手共建清朗网络家园。
AI成为空手套白狼的工具
事实上，这并非是利用AI 制造和传播虚假信息的孤例。近年来，此类现象屡见不鲜，呈愈演愈烈之势。
2024年1月12日，有网民在某平台发布文章称：“一则令人心痛的新闻在贵州省贵阳市花溪区传开，一个仅仅4个月大的女婴被遗弃在超市角落。”这则消息迅速引起了网民们的广泛关注和同情。
然而，经过调查发现，这竟是违法行为人周某精心策划的一场骗局。周某开发了名为“翠绿笔墨” 的 AI 工具和配套管理系统，他招募志愿者并创建工作群，要求志愿者提供平台账号，然后通过其开发的管理系统代志愿者登录账号。周某利用 AI 工具自动生成相关文章，并通过管理系统将文章自动保存到志愿者平台账号的 “草稿箱” 中。之后，他在工作群发布任务，让志愿者通过手机从 “草稿箱” 中手动发布。自 2023 年 11 月以来，周某通过这种方式招募获取了 300 余个相关账号（这些账号目前均已关停），利用 AI 工具编造的信息高达约 42 万条（这些虚假信息也均已被清除）。
图片来源：四川网警
时间来到5 月，河南一网民在某平台发布的文章再次引起轩然大波。文章称：“巴中市最近上演了一场令人惊心动魄的事件，一辆运钞车遭到踢爆，警民双方展开了一场激烈的对峙。”而真实情况是，4 月 30 日上午 9 时许，在四川巴中的一辆运钞车只是因在公交车站牌处占道停留，交警发现后请其驶离。违法人员尚某某在网上看到相关图片后，为了吸引眼球、获取流量和利益，怀着侥幸心理，在未经核实的情况下，使用 “AI 千文” 生成了标题为《一场惊心动魄的 “钞票大战” 巴中市警民对峙引发轰动谁将成为胜利者》的虚假信息并发布。
同样在6 月，网络平台上的一条 “广东省五华县华阳镇一 70 多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月” 的短视频在互联网平台广泛传播，引发了网民们的大量关注和激烈讨论。公安网安部门迅速展开调查，结果令人震惊，该视频的图文内容完全是移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声情并茂的视频竟然全是由 AI 合成的。目前，公安机关已依法对任某追究法律责任。
诸如此类的案例不胜枚举，在浏览器中检索“AI 造谣”，搜索结果几乎都是今年被警方破获的新闻。例如封面新闻 10 月 17 日报道的《用 AI 软件生成 “成都大规模拆迁” 等假消息！造谣者被处罚》，厦门广电网 9 月 18 日报道的《移花接木、AI 加持，一男子网上造谣被依法采取刑事强制措施》等。这些由 AI 生成的谣言往往具有很强的迷惑性，它们通常 “图文并茂”，甚至以官方报道的形式出现，让普通网民很难辨别真伪。
据央视新闻发布的微博称，炮制各类谣言的某MCN机构一天能生成4000篇至7000篇文章。经估算后一天收入大约在一万元以上。
AI颠覆公众认知产生谣言新形态
10月22日,《新华每日电讯》发表题为《警惕“AI污染”乱象》的每日一评。内容指出“去年以来，生成式人工智能在世界范围内掀起一波接一波的热潮，其颠覆性应用让许多行业和网民受益。然而，一块硬币有两面，伴随生成式人工智能而来的也有一些负面问题，由‘信息垃圾’导致的‘AI污染’乱象越来越突出。”
图片来源：新华每日电讯官网
公安部网安局在11 月 14 日发布的文章《听说过 AI 造谣吗？》中指出，AI 谣言具有定制化、门槛低、识别难、破坏大的特点。生成式人工智能借助多类机器学习方法，能够从海量数据中学习不同内容的生成特征以及主体的表达风格。使用者只需要输入关键词，AI 软件就可以在网络上抓取素材生成文本，形成定制化的文章、新闻、报告等信息。
与以往造谣者单纯依靠人工捏造、散布谣言这种相对“原始” 的方式相比，如今利用 AI 造谣者只需在工具中输入关键词，就能 “一键生成” 足以以假乱真的文章、图片。AI 生成的虚假信息在形式上极为逼真，新闻要素齐全、内容完整，甚至还可能包含图像和视频，这使得公众在面对这些信息时，很难辨别真假。这种伪装性和欺骗性让谣言的迷惑性大大增强。
而且，利用AI 工具制造谣言能够生成极为逼真的图片、音视频，彻底颠覆了 “有图有真相” 的传统观念，其蛊惑性极强，能够在短时间内快速传播，从而轻易引发社会恐慌，严重扰乱社会公共秩序。
天使投资人曾良在一次对话中与未来图灵的对话中表示，大模型的出现会颠覆一些社会性结构的变化，也有可能颠覆人们对于知识架构的认知。未来人工智能与脑科学结合的时候，人类获取知识的方式变得更加简单和直接。知识会变得更像即查即用的资源。
玲珑AI创始人周宇也曾对我们表达过类似的观点，他指出，当人们意识到大模型在处理和分析大量数据方面拥有强大的能力时，可能减少个人在自我提升和学习新知识上的紧迫感，他们知道可以依赖人工智能来辅助解决问题。在需求不迫切的情况下，人们可以等待人工智能提供答案，而不必急于自行求解。
在周宇看来，社会中存在两类人群，他们时而交织，时而分明：一类是创造知识的人，专注于知识原创；另一类是应用和传播知识的人，通过知识实现目标。在知识创造领域，创新持续发生；在知识应用领域，应用仍是主导。大模型的辅助使得知识创造更易实现，知识应用也变得更为迅速。人们需背诵乘法表、学习复杂计算公式，计算器的出现减少了这一需求。在缺乏计算器的年代，乘法表是必需的创造。
图片来源：摄图网
AI 谣言最可怕的地方在于它对公众认知的严重颠覆。在传统观念中，人们一直相信 “眼见为实”、“有图有真相”，然而在 AI 技术的伪装下，这些观念变得摇摇欲坠。虚假信息通过 AI 技术的 “魔法” 变得栩栩如生，普通网民在面对海量信息时，往往不知所措，难以分辨信息的真伪。
但我们永远要相信虚假信息传播带来的流量不可能长久，天下也绝不会有无本万利的生意。
相关文章
