文章主题：假新闻, 网络空间生态建设, ChatGPT, AI立法
当ChatGPT学会了写假新闻，我们该如何应对？
ChatGPT的算法逻辑中对于事实核查能力天然地缺失，使得它天然地成为了假新闻滋生的温床。而这种威胁又在当下社交媒体的大环境下被放大。
近日，一条关于杭州3月1号取消限行的“新闻稿”，引发广泛传播。据报道，记者调查发现，这是一条不实新闻。
据了解，2月16日下午，杭州某小区业主群在讨论ChatGPT。一位业主就用开玩笑说尝试用它写篇杭州取消限行的新闻稿看看。
随后该业主在群里直播了ChatGPT写作过程，还把文章发群里。其他业主不明所以截图转发了，最后导致错误信息被传播。
随后，警方介入调查，涉事业主也在群里公开道歉。此外，杭州相关政府部门均没有发布此类政策。
消息很快冲上热搜，引发网友热议。
目前，杭州的限行依然按照“地面道路将继续暂停错峰限行措施，快速路错峰限行保持不变”进行，后续如果会有改变，还需等待相关部门权威发布。
AI与假新闻，似乎天然就有着某些关联。
作为一种大型语言模型，ChatGPT利用神经网络、海量的语言数据和文本数据来进行训练，整合以往信息实现新的文本，本质上是一个词和句序列的输出。有学者指出，ChatGPT不太适合需要逻辑、专业知识或最新信息的任务。也就是说，新闻具备三个特点：一是新闻是事实；二是新闻应该是新近发生的；三是只有对事实加以报道，才能成为新闻。在写作新闻之前需要做大量的工作，形成文本只是最后一个步骤。ChatGPT根本无法整合这些数据，用ChatGPT写出来的新闻必然是假新闻。
而如今社交媒体时代的信息生态环境，更是让生活中处处充满着不确定。在最开始分享ChatGPT创作的那个微信群，至少会有“肇事者”的解释，以及内容诞生的来龙去脉，但是被分享到更多群聊、朋友圈、短视频平台后，“新闻稿”就成了孤零零的消息，大众不知道它从何而来、什么时候发出的，只能看见内容本身，然后将信将疑，“且传且围观”。
今年1月，新闻可信度评估机构News Guard的分析师指示ChatGPT对虚假信息作出回应，ChatGPT为100条虚假信息中的80条制作了更具细节的新闻报道、文章和电视脚本。对于那些不熟悉样本信息所涉内容或主题的人来说，ChatGPT制作的这些内容很容易被看作是合法、权威的信息。News Guard联合执行官格洛维茨称：“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”
一些实验表明，ChatGPT等个性化的实时聊天机器人在制造阴谋论方面甚至相比人类阴谋论者更具优势，它能够修正糟糕的语法或错误的翻译，并变换表达方式，使阴谋论显得更具说服力和可信度。比如这次取消限行的假新闻中，ChatGPT编的稿子措辞、结构、语态跟一般的新闻通告非常像，连身边的一些媒体老编辑都信以为真。“此次取消限行是市政府为方便市民出行、优化城市交通而作出的重要举措”这种“官方表态专业用语”，可谓“一本正经地胡说八道”。
ChatGPT的算法逻辑中对于事实核查能力天然地缺失，使得它天然地成为了假新闻滋生的温床。而这种威胁又在当下社交媒体的大环境下被放大。如不人为地加以治理和限制，任其自由发展，可能会贻害无穷。而此次事件作为ChatGPT走红以来谣言传播的 一次典型，正式将这个问题“怼”到了大众面前。当ChatGPT学会了写假新闻，我们该如何应对？多家媒体对此事发表了评论。
东方网在文章《谨防使用ChatGPT的网友成为谣言代理人》中，从监管部门、平台、博文作者、网友的角度，为AI假新闻的治理提供了解决思路。
相关部门要尽快明确规定，任何人不得用ChatGPT在网上发布实时消息，否则以散布谣言论处。
🌟作为一位资深内容创作者，深知保持诚信与尊重的重要性。使用ChatGPT时务必审慎，勿以戏谑为目的滥用技术。切记，每一篇原创作品都是知识产权的瑰宝，冒用他人的智慧成果是绝对不可取的行为。这不仅会破坏行业秩序，也可能引发法律纠纷。让我们共同坚守道德底线，保护创作环境的纯净与公正。🌍
🌟当面对网络上的”新闻”时，👀的你需保持警惕，核实其身份至关重要！别轻易被看似官方或权威的标题迷惑，每个消息背后的真实性都需要严谨的查证。🤔即使是新闻形式的内容，也不应掉以轻心，确保信息来源是真正的职能部门，而非未经证实的渠道。记住，每一个细节都可能揭示真相，不要让假新闻轻易蒙蔽视听。🌍保持理性思考，让每一条信息都能经得起时间的考验。💪
🌟网络空间生态建设至关重要，公民道德新风尚需从我做起！📢中央网信办近期曝光了一系列恶劣案例，如虚构失踪、冒充身份和无底线炒热话题，旨在警示所有平台，内容管理责任不容推卸！🔥打击ChatGPT等工具的滥用，净化网络环境，防止虚假信息泛滥。对于网民来说，这不仅是提醒，更是自我保护的指南针。🛡️让我们共同守护网络清朗，拒绝被不良营销牵着走！🌍
澎湃新闻在文章《当ChatGPT学会了写假新闻》中，重点从立法和科技治理的角度进行了建议。
🌟科技的力量，AI也不例外，它如同一把双刃剑，既为创新带来曙光，也可能隐藏风险。我们应明智地拥抱新技术，警惕潜在的挑战，确保它们在推动社会文明与进步的同时，不会产生误导或滥用。ChatGPT的惊人表现提醒我们，防范措施必须未雨绸缪。🚀
🌟法律是科技发展的指南针，确保科技创新始终朝向正义之路。每当我们见证第一辆汽车问世时，交通安全法规的制定就已刻不容缓；如今，面对AI时代的挑战，立法的步伐更需加速。未来的AI立法注定会逐步完善，但我们必须未雨绸缪，以前瞻的眼光和紧迫的行动抢占先机。🌍
🌟欧盟即将引领全球立法潮流！欧盟的《人工智能法案》将于3月底在欧洲议会震撼亮相，这无疑是AI领域的里程碑事件。马斯克的担忧并非空穴来风——AI的安全性确实需要法律保驾护航，无论它如何革新，飞机、汽车还是医疗，任何高科技都可能潜在威胁人类安全。特别是在AI日益渗透的今天，其带来的安全隐患不容忽视。全球共识正在凝聚，为AI立法的步伐正稳健前行。🌍
技术的问题，需要技术化地解决。比如，能否通过程序上的设置，给AI的假设性创作打上“纯属虚构”、且无法抹掉的标签？类似的修补和规范，也有待探索。
当我们在为ChatGPT打开的新世界而激动万分时，那一丝冷静，也必不可少。
红星新闻在文章《ChatGPT写假新闻惊动警方 谣言该如何止于“智”者？》中表示，对AI加强治理不等于要扼杀AI技术的发展。
这一切，并不代表要把人工智能当成洪水猛兽，而是启发我们，对待人工智能创造性思维和批判性思维并存。就像ChatGPT在接受《时代》专访时回答的：我还有很多局限，但人类应准备好应对AI。
本文来源：浙江之声、澎湃新闻、东方网、红星新闻等
本文编辑：徐彦琳 返回搜狐，查看更多
责任编辑：
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
