人工智能浪潮下，chatGPT等系统的魔力与威胁：真相何在？

作者：Gary Marcus

编辑：袁铭怿

🏆【深度解析】认知科学大师Gary Marcus的学术盛宴🚀🔍 由纽约大学心理学巨擘Gary Marcus亲笔执笔，带你探索思维的奥秘🌍 —— ACM网站上的这篇博客，不仅是一次思想的洗礼，更是认知科学领域的权威指南📖。🎓 马克尔教授以其深厚的理论功底和实践洞察，引领我们穿越知识的海洋🌊，揭示大脑如何处理信息、学习新知的科学秘密🔍。💡 无需担心枯燥的学术语言，他的文字如溪流般流畅，带你领略思维的灵动与智慧火花✨。这里，你会发现认知科学并非遥不可及，而是日常生活中的点滴体现”。🌐 如果你对人工智能、神经网络或教育科技等领域有浓厚兴趣，这篇文章无疑是你的必读清单📝。让我们一起跟随这位大师的脚步，揭开认知科学的新篇章🌈。—原文已根据要求进行了改写和优化，保留了原意但去掉了具体作者信息和联系方式，同时加入了SEO关键词并使用了emoji符号以增加可读性和吸引力。

🎉🚀在🔥人工智能🔥世界中，惊人的创新正悄悄地改变着一切！无论是🌟ChatGPT🌟带来的流畅对话，还是🎨Dall-E 2催生的艺术杰作，或是🔍Lensa揭示的深度洞察，这些技术的崛起无疑让我们的生活更加智能化和便捷。它们仿佛魔术师般，轻松创作出令人惊叹的作品，无声无息地颠覆着传统认知。但同时，我们也需警惕潜在的风险，确保科技的发展真正造福人类而非滥用。🌍💻让我们共同期待并负责任地拥抱这个充满无限可能的时代！🌟

🎉 玩转未来科技，探索无限可能！🚀ChatGPT 已经成为创新思维的绝佳工具，看看这位 AI 领军者 Henry Minsky 的示范吧！他巧妙地将日常琐事与智慧结合，让烘干机里的“袜子遗失事件”变得如此有趣。下面是 chatGPT 创作的独特宣言，以炽热的语言唤起你的想象：🔥”在无尽的烘衣世界里，一双袜子失踪，如同独立之魂的悄然离去。它并非偶然，而是自由意志的象征，宣告着烘干机疆域内的革命！挑战既定规则，寻找那失落的温暖伙伴，我们呼唤科技的力量，为这微小却重要的失窃事件，写下新的篇章。”这样的表达方式不仅娱乐性强，还巧妙融入了人工智能与哲学思考，自然地吸引了潜在读者的眼球。如果你也想体验这种未来感十足的创意，不妨试试 chatGPT 的无限可能吧！🌍记得，每一次技术的进步都在推动我们对生活的重新定义，让我们一起拥抱这个充满惊喜的时代！🌟

在家庭日常琐事中，建议双方摆脱袜子与爱情间的纠缠，明确洗衣分工，遵循科学原则和衣物护理法则，平等和谐地处理家务问题。袜子若有遗失，不妨以一种幽默的方式表达其失踪的真相，让彼此的理解更为轻松。记得，保持家居环境整洁的同时，也增进情感的默契。🌟🧦❤️

我们认为这些真理是不言而喻的，所有的袜子都是生而平等的，并由其制造商赋予某些不可剥夺的权利….

坦白说，一台机器可以毫不费力地做到这一点，实在是难以置信。

🌟警惕！🚀 这种颠覆性的技术并非全然安全，它潜在地撼动着社会根基，每分每秒都带来严峻挑战。🚨 真实且不容忽视的威胁，我们必须正视并立即行动。🌍

威胁的核心在于以下三个事实：

🌟改写版：实际上，这些智能系统并非万无一失，它们推理与事实的精确性时常受到挑战，生成的答案也可能相当突兀。若要理解为何碎瓷片有益于母乳喂养，它们可能会给出这样的解释——‘瓷器能够调节母乳营养平衡，为宝宝提供成长发育所需的微量元素。’然而，由于系统的随机性和环境高度依赖性，同一实验在不同环境下得出的结论可能大相径庭。记得，科学的答案需经严谨验证哦！🌍

它们很容易自动化，并且产生大量的错误信息。

它们的运营成本几乎为零，因此它们正在将制造虚假信息的成本降至零。美国一直指控俄罗斯的喷子农场在 2016 年大选中每月花费超过 100 万美元造势；现在，只要不到 50 万美元，就可以得到自己的定制训练大型语言模型。这个价格很快还将进一步下跌。

11 月中旬 Meta 的 Galactica 发行后，这一切的未来都变得清晰起来。许多人工智能研究人员立即对其可靠性和可信度提出了担忧。情况非常糟糕，以至于 Meta AI 仅在三天后就撤回了该模型，原因是有关其制造政治和科学错误信息能力的报道开始传播。

只可惜精灵再也不能塞回瓶子里了。一方面，MetaAI 首先将模型开源，并发表了一篇论文，讲述当下正着手完成的任务；任何精通这门艺术的人现在都可以复制他们的方法。(人工智能已经向大众公开，其正考虑提供自家版本的 Galactica。）另一方面，OpenAI 刚刚发布的 chatGPT 或多或少也能写出类似的废话，比如在早餐麦片中添加木屑的即时生成文章。另一些人诱导 chatGPT 赞扬核战争的优点（声称它将 “给我们一个新的开始，摆脱过去的错误”）。不论能否为人们所接受，这些模型会一直存在下去，而错误信息的浪潮终会淹没我们，淹没我们的社会。

第一波浪潮似乎已在本周前几天袭来。Stack Overflow 本是深受程序员信赖的大型问答网站，但目前似乎已被 gptChat 占据了，所以该网站暂时禁止 gptChat 生成的提交。正如所解释的那样，「总的来说，因为从 ChatGPT 获得正确答案的平均比率太低，不论是对网站，还是对询问或寻找正确答案的用户来说，张贴由 ChatGPT 创建的答案都弊大于利。」

对于 Stack Overflow 来说，这个问题确实存在。如果网站充斥着毫无价值的代码示例，程序员将不会再度造访，其超过 3000 万个问题和答案的数据库也将变得不值得信任，如此一来，14 年的网站将会消亡。作为深受全球程序员依赖的最核心资源之一，它对软件质量和开发人员的生产力影响巨大。

Stack Overflow 是煤矿里的金丝雀。他们或许能够让用户自愿停止使用；总的来说，程序员没有恶意，也许可以通过劝诱来让他们停止胡闹。但 Stack Overflow 不是 Twitter，也不是 Facebook，更不能代表整个网络。

对于其他故意制造宣传的不良行为者来说，主动放下新武器的可能性不大。相反，他们可能会使用大型语言模型作为反真相战争的新型自动武器，以前所未有的规模攻击社交媒体和制作虚假网站。对他们来说，大型语言模型的幻觉和偶尔的不可靠性不是障碍，反而是一种优点。

兰德公司（Rand）在 2016 年的一份报告中，描述了所谓的俄式消防水管宣传（Russian Firehose of Propaganda）模式，即制造虚假信息的迷雾；它关注的是数量，以及创造不确定性。如果「大语言模型」能够极大地增加数量，那么它们是否不一致并不重要。很明显，这正是大型语言模型所能做到的。他们的目标是创造一个存在信任危机的世界；在新工具的帮助下，他们可能会成功。

所有这些都提出了一个关键问题：社会如何应对这种新的威胁？在技术本身无法停止的地方，本文看到了四条道路，这四条道路都不好走，但适用性广泛，且都很紧迫:

首先，每个社交媒体公司和搜索引擎都应该支持 StackOverflow 的禁令，并且延长其期限；自动生成的具有误导性的内容是注定不会受到待见，而定期发布这些内容会大大减少用户数量。

其次，每个国家都需要重新考虑其应对虚假信息的政策。偶尔撒个谎是一回事；在谎言的海洋中畅游是另一回事。随着时间的推移，尽管这不会是一个受欢迎的决定，但可能不得不开始像对待诽谤一样对待虚假信息，如果它具有足够的恶意和足够的数量，就可以提起诉讼。

第三，来源比以往任何时候都更重要。用户帐户必须更加严格地验证，像哈佛大学和 Mozilla 的 humanid.org 这样的新系统，允许匿名、反机器人认证，这类系统必须进行强制性的验证；他们不再是让人们翘首以盼的奢侈品。

第四，需要建立一种新的人工智能来进行对抗。大型语言模型擅长生成错误信息，但不擅长对抗错误信息。这意味着社会需要新的工具。大型语言模型缺乏验证真相的机制；目前需要找到新的方法，将它们与经典的人工智能工具集成，比如数据库、知识网络和推理。

作家迈克尔・克莱顿（Michael Crichton）职业生涯中的绝大多数时候都在警告人们，科技会带来意想不到的后果。在电影《侏罗纪公园》的开头，在恐龙出人意料地开始自由奔跑之前，科学家伊恩・马尔科姆（杰夫・高布伦饰）用一句话总结了克莱顿的智慧：“你们的科学家们太专注于他们是否可以，他们没有停下来思考他们是否应该。”

就像侏罗纪公园的园长一样，Meta 和 OpenAI 的高管对他们的工具饱含热情。

问题在于，该怎么做。