ChatGPT挑战：打开的伦理困境，我们如何理解并应对？

ChatGPT与保险 2年前 (2023) lida

66 0 0

文章主题：ChatGPT, 生成式人工智能, 开放性伦理挑战

🌟认知升级！🚀ChatGPT引领新纪元，AI伦理挑战亟待探讨——由复旦通识中心权威学者段伟文教授引领的“人工智能”系列讲座，带你深度解析ChatGPT及生成式技术的伦理困境。📚以多学科视角，用通俗易懂的语言，我们诚邀各界人士共同探索这一科技巨头带来的伦理议题，携手面对未来挑战。💡让智慧碰撞，为人类文明的进步照亮道路！👉欲了解更多，敬请关注后续更新，一起开启这场知识盛宴！🏆

🚀自从图灵时代的启明星照亮人工智能探索之路以来，关于AI能否构建超越人类智慧的辩论始终热烈而富有深度。近年来，数据洪流推动了AI技术的革新，焦点已从理论上悬而未决转变为如何驾驭潜在颠覆性的创新。👀 深度学习引领的围棋胜利与ChatGPT的革命性突破，尤其是其流畅自然的语言处理能力，犹如科技界的华丽魔术，激发人们对未来无限遐想。然而，这股创新洪流带来的冲击也显而易见：通用人工智能甚至超级智能的潜在威胁如同海啸般逼近。人们开始深刻意识到，必须严肃对待由此可能产生的社会风险与伦理挑战，如同面对一场突如其来的“创造性破坏”。🛡️在这个科技日新月异的时代，我们必须审慎思考如何引导AI的发展，确保其既能带来福祉，又能妥善应对未来可能出现的复杂局面。🌍

人工智能的工程创新与智能理论间的认知落差

🌟ChatGPT是AI领域的创新之作，它以🔥LLM技术为基础，通过精巧的🎨RLHF训练，实现了卓越的语言模拟。这款人工智能语言模型的神韵在于其流畅对话能力——无论话题如何，都能与用户进行深度且高质量的互动。🚀更重要的是，它已趋向于理想的人机协作，让机器意图贴近人类需求，这使得它在问答、分类、摘要和创作等任务中展现出了高精度和效率。每一份逻辑严谨的答案背后，都仿佛藏着一个AI作家的手笔。🔥SEO优化提示：ChatGPT, LLM, RLHF, 人工智能语言模型, 自然语言理解与生成, 人机协作.

🌟ChatGPT颠覆认知：🔥理论突破，流畅对话展现全新AI潜力！💡尽管ChatGPT仍处于演示阶段，它的卓越表现已对人工智能的认知带来革命性转变。🎯首先，它虽无自主意识，却能通过学习和信息更新，展现出强大的“理解”自然语言并优化逻辑的迹象。🌱其次，其基于大型预训练模型的强大泛化能力打破了传统AI界限，让通用与专用不再泾渭分明。🛠️再者，人工智能效应悖论可能因此改写：ChatGPT不仅自动化了特定任务，更因其语言指令力，能与其他AI形式无缝融合，创造无限可能！🌐这不仅是技术的进步，更是智能范式的重构。🚀准备好迎接一个由ChatGPT引领的智能新时代吧！🔥

🌟ChatGPT的崛起，无疑是对人工智能怀疑者认知的一大颠覆！几年前，深度学习的突飞猛进让许多人担忧AI可能触及乃至超越人类智慧的临界点。那时，柯林斯教授这位科学社会学家，以其独特的视角——“嵌入认知论”，向通用人工智能的前景投下了阴影。他用一套逻辑严谨的“连环掌”（1️⃣ 认为，没有深度融入人类社会，机器的语言理解和图灵测试表现都无法达到人类水平；2️⃣ 深度学习虽易嵌入，但受限于渐进技术，无法实现全面的社会融合。）来捍卫他的悲观论点。然而，ChatGPT的工程奇迹正在打破这些预言。它展现出令人惊叹的自然语言交互能力，不仅打破了柯林斯等人的固有认知，也让许多技术乐观主义者瞠目结舌。它的出现，就像一记有力的回旋踢，挑战了人工智能发展的既定路径，预示着可能的新突破和颠覆性变革。🚀

🌟认知鸿沟：智能与AI的理论探讨与实践实现往往脱节于技术细节，这源于人工智能发展中的理论思维与工程思维之间的紧张关系。💡尽管德雷福斯和柯林斯等人的理论警示了人工智能的局限性，ChatGPT的出现却揭示出现实与理想间的差距——它虽具备强大的语言生成能力，但并不符合那些被视为通用AI“关键要求”的无限任务处理、自主性和价值系统。🔍然而，这些技术上的挑战恰恰模糊了如何在工程层面上验证和实现这些抽象概念。SEO优化改写：智能理论与实际AI的工程落差常引人深思，ChatGPT虽显强大，却未能满足通用AI那些看似关键但难以量化的标准——无限任务、自主性和价值系统。💻技术的进步与理论的探索之间存在微妙张力，如何确保这些理想要求在工程实践中得以验证和落地，是当前亟待解决的问题。

回顾人工智能的发展历程，有关智能和认知的哲学研究往往会对人工智能技术和工程上的“理论缺陷”展开批评，旨在推动人工智能的范式转换。如近年来试图超越笛卡尔式认知主义的具身认知、嵌入认知、生成认知、延展认知和情境认知等“4E+S”认知得到了深入的讨论，从哲学上不难指出缺失这些维度的认知很难成为真正的认知，也可据此顺手批评技术和工程上实现的人工智能之不足。类似地，在人工智能的讨论中，人工智能体是否具有“意识”既是人们公认的人工智能可能出现的最高风险，也被人工智能怀疑者视为真正意义上的智能的金标准，但问题是认知科学和哲学对这个难问题的认识还非常有限，人们目前所能做的只能是工程技术层面的防范。

就像柯林斯的“连环掌”一样，诸多有关智能的理论认知框架往往缺乏必要的谦逊，未能将其立场当作探究的视角之一，容易陷入固守“先验”标准的封闭式否定思维之中。而工程思维则主要体现为工程实践中的累积创新和涌现创新，是一种基于技术产业演进的“后验”迭代的开放性的肯定思维，常常是对某些技术路径的偏执性选择，且能在技术演进中赋予这些选择以新的内涵。

受到两者之间的这种认知落差的影响，理论研究者和批评者无法预见人工智能工程实践可能涌现出的重大突破，工程实践者和喝彩者则难以前瞻技术上的突破在社会价值伦理层面所引发的革命性影响，由此形成的总体认知状态显然无法应对包括超级智能在内的开放性伦理风险。

基于人机交互智能的生成式人工智能与人机对齐

为何会出现这一认知落差呢？这其中固然有人工智能前沿创新高度不确定的原因，但不容忽视的原因是人们思考相关问题时所采用的实体论预设。耐人寻味的是，不论是理论反思者还是从事工程实践的人，在相关的探讨中大多将人工智能与人类智能预设为相互分立的智能体，大多聚焦二者的高下之分和此消彼长，而较少以两者之间的交互作为思考的出发点，从技术社会系统和智能生态系统的维度理解人工智能体的实质。

但实际上，从基于大数据的深度学习到基于大模型的生成式人工智能，其创新应用都发生于数据、算法、算力等所构建的巨型技术社会系统之中，是在高度社会化的人机交互智能生态系统中形成的。它们之所以可实现功能上的突破，固然源于数据量和模型参数大到一定规模后的功能涌现，更重要的是要充分认识到人类反馈微调和使用中的人机智能交互对其性能改进的作用。

目前业界和学界对生成式人工智能伦理风险的认知大多滞留于网络媒体和数字平台涉及的相关问题，聚焦于偏见、歧视、数据滥用、信息误导、用户操纵、虚假内容和恶意使用等方面。这些问题其实是现实世界中存在的问题在大数据、人工智能等数字技术应用中的折射与放大，并且在生成式人工智能中进一步延伸和加剧，故对它们的关注的确具有紧迫性。

而实际上，在ChatGPT的研发过程中，Open AI的技术路线就是在高度社会化的人机交互智能系统中展开的。ChatGPT所采用的人工智能新范式基于对自然语言内在的同质化形式和结构的学习，其中既有海量的文本数据集，也包括运行中大量的人机对话数据，其内容生成思路是学习与预训练的结合——首先是自动提取相关内容并加以聚合，然后通过人机对齐工程对其目标和价值加以必要的修正。

依照Open AI的说法，之所以实施人机对齐工程的背景是，Open AI对其所开发的GPT系列大模型以及ChatGPT的技术定位是探索通用人工智能。为了防范由此可能带来的颠覆性社会伦理影响，开发者通过人类标注、反馈、审核等工程方法对生成的类自然语言中的价值冲突和伦理争议进行了校准，对生成内容与语言表达策略进行了持续监督和不断优化。这使ChatGPT的输出对价值敏感问题相对谨慎、持平，主动回避有争议的问题、甚至拒绝回答。

人机对齐工程的实施表明，由于存在着包括超级人工智能可能引发的人类生存风险在内的巨大社会伦理风险，生成式人工智能的技术开发与价值伦理调节从一开始就是同步进行的。由此，可以得到二个重要的启示。一方面，人机对齐工程的实施表明，对生成式人工智能进行价值伦理矫正并防范恶性后果在工程上是可行的，这为其创新应用中恪守价值底线和红线提供了可借鉴的经验。当然，必须明确指出的是，作为语言模型的ChatGPT本身并不真正理解各种价值观的内涵。另一方面，人机对齐工程是在人机交互的基础上的实施的，不论是在训练数据之中还是在人工标注等人类反馈环节，都负载着利益相关者的利益和好恶，会受到各种价值预设和文化选择的影响，必然存在一定的偏向性。

超越知识生成自动化的知识权威幻象与图灵陷阱

人机对齐工程所进行的价值伦理矫正固然有助于对人工智能生成内容的法律规制和伦理治理，但更重要的是，要看到以ChatGPT为里程碑的生成式人工智能是机器智能与人类智能全新的交互组合方式，我们正在开启借助人工智能自动生成知识并全面重塑生活的前所未有时代。从知识生产方式的范式转换来看，如果说大数据分析带来的是堪比微积分的新分析，那么ChatGPT所开启的大模型加人类反馈的自动化知识生成方式则是面向智能化未来的新综合。而对这一新综合的拥抱将迫使我们面对一系列全新伦理挑战，除了热议的违背学习和研究诚信、侵犯知识产权等问题之外，尤其值得关注的是以下两个具有开放性的社会伦理挑战。

一是将自动生成的知识视为神谕的知识权威幻象。拥抱知识生成自动化必然面对的一个悖论是，生成式人工智能系统固然能带来知识生成效率的提升，但它并非知识大全和全能的知识的领会者。这种从海量训练数据中拼凑出答案的语言形式生成系统如同自动的随机鹦鹉，其自身既不真正理解输入输出数据的意义，也没有自己的目标，更不知道什么是研究和学习以及为什么要研究和学习。但人们往往会产生一种将它们视为自动化的知识生产者的幻象，而没有注意到，虽然它们能够产生连贯的文本，但其意义和连贯性是在人类与机器的互动中形成的，而它们并没有试图表达什么。如果认识不到这种幻象，就容易产生将生成式人工智能视为知识权威和道德权威的风险。随着ChatGPT的进一步发展，有望演变为普通人日常生活中的人工智能助手，成为解答知识、辨别是非乃至区分善恶的重要工具。鉴于ChatGPT并不真正理解其所生成的知识内容以及对是非善恶的判断，而且有时会产生荒谬的错误或随意堆砌和编造的内容，在缺乏批判性思考的情况下，将ChatGPT简单地视为教育、医疗、心理、精神方面的解惑者或指导者，难免放大由知识生成错误和不准确造成的危害。

二是由盲目的智能化和自动化导致的图灵陷阱。如果不能认识到生成式人工智能建立在人机交互的智能生态系统乃至遍布地球的智能科技社会系统之上，就看不到知识生成自动化的基础和前提是对人类智能的提取，其运作过程既是对知识和智能的重新定义，也是对地球生态环境、人类社会和个人的重构。如果缺乏对这一过程的反思，就可能陷入各种图灵陷阱：在教育和研究中无条件采用自动化生成知识，在工作中无限度地用自动化取代人类智能，完全不顾及能源消耗的自动化知识生成还会使地球生态环境不堪重负。之所以会出现图灵陷阱，是因为智能和自动化系统没有做到以人为本，在人工智能的部署中往往迫使人被动地适应智能化和自动化——在很多情况下，“自动建议”“自动更正”等智能系统的运作预设不是使机器人性化，而是让人越来越机器化，使人的自主性在不经意间被自动剥夺。

为了克服人工智能的知识权威幻象，超越图灵陷阱，无疑需要全社会展开进一步的讨论，以构建我们对可接受的深度智能化未来的合理想象。而从观念上讲，必须直面的问题是：人类在知识和智能上能否保有主创者和主导者地位？人的主体性能否经受住来自人工智能的挑战？如果未来不会出现人工智能超越人类智能的奇点，我们似乎可以坚持：一方面，人应该成为最终的知识权威；另一方面，人工智能应该更多地作为人的智能助手，而不是一味地用智能化和自动化取代人的工作和替代人的技能。

最后，从长期风险来看，ChatGPT强大功能的涌现表明，对于大模型的研发必须真正开始警惕出现有意识的通用人工智能的可能性，将人工智能可能威胁人类生存的安全风险的及时防范作为其发展的前提。OpenAI的首席执行官山姆.奥特曼在最近的一篇博文中再次宣示了其发展通用人工智能的初衷，并强调要确保造福人类。这种站在道德制高点上的高调宣示其实表明，他已经认识到通用人工智能的巨大风险，但人类的未来能能否避免由此带来的生存风险，显然不能仅仅寄希望于其作出的审慎发展的承诺。

（本文经删节编辑后发表于《中国社会科学报》2023年3月7日第7版。）