ChatGPT：文明利刃还是潘多拉？哲学学者共探未来影响
文章主题：ChatGPT, AI,文明利器, 潘多拉魔盒
🚀ChatGPT的问世，引发了全球热议，它究竟是人类智慧的新里程碑，还是潜在的科技风险？就像文明的双刃剑，ChatGPT既是赋能未来的神器，也可能成为失控的潘多拉。复旦大学哲学团队、《探索与争鸣》、《广州大学学报》及‘复杂现代性与中国发展之道’课题组于3月13日携手举办了这场别开生面的论坛——“ChatGPT：文明之刃还是魔盒？”，深度探讨其在大文明视野下的影响。来自北京大学、清华大学等顶级学府，以及科技领域的重量级人物共30余位精英齐聚一堂，涵盖了哲学、历史、文学、国际政坛、传播学、教育与AI等多个领域，他们的见解多元且引人深思。论坛现场座无虚席，线上直播间同样热烈，300名听众在线参与了这场思想盛宴。这场讨论不仅聚焦于ChatGPT的现状，更着眼于它对未来社会和人类文明可能带来的深远影响。让我们共同期待，如何在科技与伦理的交汇点上，明智地驾驭这股强大的力量，为人类的未来开辟一条光明之路。
🌟欢迎各位参会者，由复旦哲学大家汪行福引领，我们即将开启这场深度探讨ChatGPT影响的盛宴！💡本次会议的核心议题聚焦于：这款创新技术是助力我们的“超级伙伴”，还是潜在的人类自我主权挑战？🌍这不仅是个技术问题，更是关乎人类文明走向的关键抉择。人文学者们的智慧碰撞，将为我们揭示答案的曙光。🤝让我们共同探索，用对话填满思考的空间。别忘了，你的声音至关重要！🏆#ChatGPT讨论 #人文对话 #命运抉择
🌟陈志敏教授引领，复旦智慧启航✨——AI浪潮中的深度探索与创新🔥在人工智能领域的重要里程碑上，复旦大学的重量级人物陈志敏副校长以敏锐洞察，引领我们深入探讨这一科技巨头的崛起与影响。🌍AlphaGo的胜利不仅是技术的胜利，更是思维革命的火花，它照亮了基础学科研究的新路径。📚ChatGPT的横空出世，则将人工智能推向一个全新的高度，各学科交叉融合的步伐加速，协同创新的火花四溅。🔥ChatGPT以其强大的生成能力，不仅挑战着我们对人性本质的理解，重塑人际关系的版图，更在重构社会结构的蓝图上留下了浓墨重彩的一笔。🔍学者们，不论是哪个学科背景，都将有机会从多角度、全方位地剖析这一技术，为中国的AI发展注入智慧与深度思考。💡让我们携手共进，以复旦大学的学术底蕴，迎接这场人工智能浪潮带来的挑战与机遇，共同书写中国智能未来的新篇章！🏆
🌟人工智能国家战略新高度，ChatGPT引领革命浪潮🔥——上海市社科联王为松致辞💡随着”十四五”规划纲要的明确，AI已跃升至国家发展战略的核心位置。ChatGPT的横空出世，无疑在教育、学术及金融等多个领域引发了热议，开启了信息时代的全新篇章。🌟学者们，尤其是人文社科界，肩负着探索这一科技巨头对文明深远影响的重任，为现代化建设提供理论支撑💡。深化理解ChatGPT，需要跨学科专家的智慧碰撞，从文化、社会到人性等多元视角拓宽我们的认知边界。让我们共同期待，聆听来自各领域智者的真知灼见，推动人工智能理论与实践的深度发展🌍。
🌟🚀 开幕式后，一场深度探讨的盛宴在五个单元中热烈展开！专家们聚焦于ChatGPT与人际互动的革新议题——从尖端技术到实际应用，深入剖析其如何重塑交流格局。🌍🤖 人工智能伦理边界下的科技挑战也引发热烈讨论，引人深思。📚🔍 ChatGPT的语言模型对知识学习的影响，更是成为智慧碰撞的关键点，激发了无尽的洞见。每个单元都充满了智慧火花和未来展望，让我们期待更多深度解析与创新见解！💡🌈
与会专家学者合影
第一单元
陶东风
会议第一单元 由《广州大学学报》（社会科学版）主编，广州大学文学院教授陶东风主持。
邱锡鹏
🌟【AI巨变】ChatGPT引领潮流：超大规模语言模型的“涌现”力量💡邱锡鹏教授，作为复旦大学计算机科技学院的领军人物，揭示了ChatGPT的核心——一款卓越的对话式大型语言模型，它以人工智能研究中的创新方法，通过海量文本学习实现对人类表达的深度理解。🔍随着算力的飞跃，参数规模突破千亿级别，ChatGPT展现出前所未有的“涌现”能力，仿佛具备了类似人类的思考与执行技巧。它巧妙运用情景学习、思维链和指令学习三大关键技术，让对话更加流畅，问题解决更高效。💡ChatGPT及类似的MOSS模型，正逐步渗透到社会治理、生物医疗、智慧金融等诸多领域，为这些行业带来了革命性的变化。它们不仅简化了沟通，还推动着决策的智能化，开启了智能教育的新篇章。🚀未来，这样的技术将如何塑造我们的世界？让我们拭目以待，ChatGPT带来的不仅仅是语言的革新，更是AI时代的一次深度对话。💬
马晓毅
上海至再科技有限公司创始人、首席执行官、人工智能专家 马晓毅博士认为，ChatGPT是第一个面向消费者的AI系统，几乎所有用户都觉得它能够解决自己的问题，比如问答、写作、甚至写代码等方面。许多用户使用ChatGPT的体验让人感觉它有着庞大的知识库、强大的语义理解和严密的逻辑推理能力。但实际上，ChatGPT作为一种语言模型，其主要设计目标是为计算机赋予类人的语言表达能力，知识库、语义理解和逻辑推理是其副产品。虽然ChatGPT的语言理解和逻辑推理能力非常出色，并有望通过未来的技术升级不断提升，但它无法完全承担知识库的任务，因为大型模型结构不可能记录下所有的人类知识。ChatGPT的优势主要集中在语言理解和生成方面，包括阅读理解、文本生成、语言润色、文字翻译、以及普通问题的回答等。它的最大弱点在于它的过多的错误信息，无法作为可靠的信息来源。这些错误信息导致一些人对ChatGPT持有一些批评态度。实际上，这是用户错误地将ChatGPT视为一种知识库的结果。马晓毅博士认为，ChatGPT的未来发展方向需要考虑如何紧密结合企业机构的内部数据库，借助这些数据库提供的可靠知识，发挥自身的优势，通过理解、推理等能力，完成问题回答、写作等高级任务，服务企业、机构及个人。这也是至再科技旗下的“学术范”科研助手所专注于探索的方向。目前，ChatGPT的主要商业应用集中在文本生成和文字处理两个领域，而其他领域的应用范围还比较有限。但是随着ChatGPT性能不断提高，其应用场景将会快速扩展，为许多行业和领域带来革命性的改变。
童世骏
上海纽约大学校长、教授 童世骏从哈贝马斯的交往合理性概念出发，探讨 ChatGPT 作为对话交互工具的内在架构。他指出，虽然 ChatGPT 与其他文本工具相比可能并没有本质区别，但由于其以自然语言交互为形式，因此交往合理性的标准应该成为评估其合理性的重要标准。ChatGPT设计团队中没有哲学家参与，但自然语言处理和语义学等领域涉及一些哲学领域的知识和理论框架，可能对ChatGPT的设计产生影响。童教授认为，ChatGPT这样的聊天机器人应该并且可以通过体现交往合理性来体现其工具和理性。聊天机器人体现出的交往合理性有一些先天限度，不过，在这个限度内，ChatGPT的交往合理性程度还有很大的改进空间。聊天机器人体现交往合理性的程度，取决于聊天机器人设计团队成员的工作方式是否体现出交往合理性。交往合理性问题同样涉及到聊天机器人团队成员与其他专业团队，以及与商家、用户和公众之间的互动。
黄旦
浙江大学文科资深教授、浙江大学数字沟通研究中心主任 黄旦从媒介的视角探讨了ChatGPT技术对人类和文明的影响。ChatGPT冲击了人作为说话动物的特权，使得人的标志性和确定性受到质疑。媒介是人的一种生命形式和人的一种外化，而新的媒介的出现也是新文明的诞生，这一点为我们提供了一个理解ChatGPT的新视角。如果粗略来分，人类文明的演化可以分为机械化阶段和数字化阶段。机械化阶段以标准化的复制，规定了人们互相之间对信息的获取和对现实的主要感知通道，而数字化阶段却使人有了不同的连接和感知接口，不仅使信息的获取和生产多样化，同时也打破了真实和虚拟的边界，代码、传感器、数据、算法和平台等要素构成了当代社会的本体，世界变成了媒介。因此，ChatGPT的出现，主要挑战不是非此即彼的利弊选择，而是面临一个新的文明时代人与智能如何共存相处。
第二单元
任剑涛
清华大学政治学系教授 任剑涛讨论了ChatGPT驱动的交往革命。ChatGPT引入了新的交往机制，使人机交互变得更人性化，然而，ChatGPT也重塑了人类社会的交往结构。ChatGPT开辟的情境化的人机对话，将人对人的直接交往变成人对物的交往，这使我们必须考虑“我在与谁交往”的问题。ChatGPT坚持维护和平、遵守与人类对齐的道德基本准则，也许会对人与人的交往约定产生积极的影响。此外，ChatGPT本身对精英和对一般公众影响需要在严格区分下加以分析。相较于与大众缺乏交往的精英，拥有普遍情感与一般智商的ChatGPT或许会在引领大众的普遍交往或日常交往中，发挥惊人的作用。我们同样也要关注人机互动时的情感投射问题。
汪民安
清华大学中文系教授 汪民安探讨了互文性理论与ChatGPT的异同关系。“互文性”这一概念起源于20世纪70年代法国哲学，被用来描述文本之间的相互编织和引用的关系，它强调所有的文本都是语言的拼凑，写作就是一种将材料整理和组织起来并连接和过渡各种不同的要素的复写。ChatGPT可以说是互文性理论的理想实现，因为它是一种编织和援引文本的形式，没有独创的作者。互文性的目的是不断扩散文本的边界，它的组合文本的扩散繁殖的目的是后结构主义的。与互文性理论正好相反的是，ChatGPT是一种基于无限文本的结构化思维方式，它通过抽象和概括从无数的文本中寻找普遍性和共性的意义和结构，并试图将意义晶体化。它是结构主义的，因为它相信真实和准确的意义潜藏在共性和普遍性之中，而且它试图将意义压缩和抽象化，而不是不断扩散、多样性地繁殖意义。ChatGPT生产的知识是无穷无尽的，随着数据的不断变化，每次回答的文本也在不断变化。一旦ChatGPT被广泛使用，就可能占据绝大部分领域，导致特定的个体作品变得越来越少。人们最终也许只能向机器学习，思维和行动模式都陷入机器化，产生新的意义上的“人之死”。
杜骏飞
南京大学新闻传播学院教授 杜骏飞指出，数字交往时代从虚实融合转向了虚实相生，从具身转向了交往具身。ChatGPT未必是AGI的未来，但它却预示着数字交往2.0的到来：随着AI辅助交往的兴起，人类也进入了“交往赛博格化”的阶段。其中，有三个议题：（1）混合物种，知识调用使得人与机器的知识是相互嵌入的，这也在交往意义上规定了自然生命与人工生命的相互嵌入；（2）跨生命交往，即ChatGPT这类AI辅助，促使人与数字生命、机器生命之间的流畅对话成为可能，这是一种前所未有的交往形态；（3）意识演化，即人在发达的AI面前，因为对被僭越、被代替、被否定、被遗弃的四重恐惧，主动寻求被AI所演化；这种演化从交往开始，发展到对生命本体的再确定，再发展到认知层面的博弈，最终人的意识或将皈依于机器之心。ChatGPT是一种智能利器，但也象征着人会成为什么样的意识主体。而当我们预感到灾难的时候，拯救就是可能的。
陈云松
南京大学社会学系教授 陈云松认为，讨论ChatGPT等人工智能与生成式AI对学科、文化和人类文明的颠覆性影响似乎为时过早，但人文科学天然地对技术进步抱有隐忧，这种忧虑源自人对失去自身语言垄断能力的终极恐惧。不过，来自人文科学领域内的这些看似“外行”的讨论，恰恰能指引技术沿着符合全人类共同价值的方向前进。ChatGPT的特点在于它使用了非决策式概率模型，这导致目前它对学科具有一定的工具价值，但多限于知识问答、信息检索以及数据收集和分析。ChatGPT面临创造性的缺失、想象力的匮乏和评价性的回避等问题，每一个回答，都类似于对互联网开放知识体系的一个局部的略缩图。虽然ChatGPT本身看似意识形态中立，但正如培根所说“知识就是力量”，谁垄断了文本和话语，谁就具有影响世界的力量，这是我们应该加以研讨甚至警惕的。
第三单元
李春萍
会议第三单元由 北京大学教育评论副主编李春萍主持。
许纪霖
华东师范大学历史学教授、中国现代思想文化研究所副所长 许纪霖指出，AI的出现让全体人类面临一场新的知识学习革命。今天的高级AI已然替代大部分老师的功能，这导致未来“好学生”和“好老师”的重新定义和规范标准的变动；对语言模型的深度依赖也可能使未来学生的思维趋同和单一化。不过，ChatGPT也为实现用户或学生与程序直接进行一种“苏格拉底式的对话”提供了可能，而这种对话的关键，在于用户或学生能否问出好的问题，倒逼ChatGPT给出更好的回答。ChatGPT能否代替人类的存在亦是值得深思的问题。现今的人工智能缺少肉身，与人类心灵运作有实质差别，因此它无法领会“模糊性知识”，更无法像人类那样实现从0到1的知识创新。尽管人工智能可以很好地辅助人类生活和生产，但假若听凭其自主进化，它最后可能会反客为主，这要求我们警惕和规范人工智能的发展。
赵修义
华东师范大学哲学系教授 赵修义认为，以ChatGPT为代表的新技术对世界有着颠覆性影响，也牵引出技术演进背后的一系列社会问题。新技术带来了社会生活的变局，同时也带来了我们得以打开“社会”这本大书的机遇。如何打开，需要有科学的认识论指引。可是现今的舆论场，却弥漫着独断论和虚无主义。此外，在中国人潜意识中存在着“学而优则仕，仕而优则学”的心态。 这里所说的“学”不是指学习，而是指学问。也就是说只要做了官，自然而然地就有了学问。有些官员相信此说，沾沾自喜，好为人师。这些观念都是违背马克思主义的认识论的。需要重振哲学认识论，学习、宣传马克思主义的认识论。克服那种单纯注重立场、感情和态度，轻视或忽视对客观世界的科学认知不良倾向。
王峰
华东师范大学传播学院院长、教授 王峰讨论了人工智能与意识之间的关系，通过举例与ChatGPT和阿莉等人工智能进行的对话，说明了目前的人工智能没有自我意识，它们只是执行指令，提供基于数据流和语义关系的答案。此外，人工智能在未来可能迅速取代播音、主持等职业，这对传播学院的专业特性提出了挑战。就算ChatGPT等人工智能可以提供精确的答案，它仍然缺乏人类具备的情感、意识、心灵等机能，但具备思考这一认知功能。人工智能永远无法实现意识涌现，它只是一项技术，焦虑人工智能的意识涌现问题是没有必要的。随着技术不断地发展，人类可能走向非常激进的“后人类”状况，但那时的人类应当已经具备相应的观念来面对全新的社会现实。
孙向晨
复旦大学哲学学院院长、教授 孙向晨以文明、技术和智能之间的三方关系为线索，在大文明视野下对ChatGPT进行了反思。他指出，轴心文明之前的古代文明以恐怖统治及对敌对部族的征战为基础，轴心文明则寻找到某种稳定的情理结构来支撑各自的文明形态。然而，近现代以来技术发展出不同于文明形态的逻辑，西方文明开始在科学技术层面异军突起。根据海德格尔的观点，技术的最高本质是计算，它是西方形而上学的实现。技术不仅是存在呈现自身的一种方式，而且形成了自身的演进逻辑，它能推动人为实现技术自己的目标而努力。今天的智能以一种技术的极致方式加速着自身的迭代发展，其中所蕴含的高风险性与不可控性与文明形态的稳定逻辑相互对立，并且没有为人类留下充足的试错余地。现代性以进步观念为基础，但现时代的技术发展要求人类有一种“知止的智慧”，为文明逻辑与技术逻辑的对冲提供一种缓冲地带。
汪行福
复旦大学哲学学院教授 汪行福认为，ChatGPT的诞生同时包含着终极之问：ChatGPT到底是给我们带来了赐福，为我们赋能，还是会罢黜人类的王位，最后使得人类不再居于一种万物之灵的位置？ChatGPT涉及到自然语言处理能力和大数据技术模型的结合，预示着以智人的大脑结构和自然语言的理解和交流为基础的“人类纪文明”向基于AI平台的“后人类纪文明”的转移。《圣经》巴别塔的故事提供了一些有意思的启示。上帝通过“变乱”人的统一语言，挫败人类建造“通天塔”的僭越图谋，由此诞生了以自然语言多样性为特征的人类文明。自然语言的多样性文明既为人类各种群体内部人与人相互理解创造了条件，也是全球范围内文化和政治冲突的根源之一。以自然语言对话为特征的ChatGPT通过统一的AI大程序继承了自然语言的优点，又超越了上帝的限制，其意义不可小觑。它既是对人类的巨大赋能，也有可能是人类文明的内爆。
第四单元
王金林
会议第四单元由 复旦大学哲学学院教授王金林主持。
吴冠军
华东师范大学政治与国际关系学院院长、教授 吴冠军指出，今日新一轮的人工智能浪潮有三重技术来源：深度神经网络、基于自注意力机制的深度学习模型以及扩散模型。人工智能的突破性革命给人类造成了被僭越、被替代、被否定、被遗弃的感受，迫使我们退到了极为严峻的自我反思的境地之中。要想在今日对人的自我境况进行反思，必须对以人为中心的人类主义文明架构进行前提性思考。对此，存在两种不同的批判性反思方式。一是新启蒙主义，它“反内容不反框架”的抗争方式要求将形形色色的“他者”纳入自身之中。然而，由于人工智能是一个不具备交往理性的黑箱，如何包容这样的“他者”将成为问题。二是后人类主义，它质疑人类主义框架本身的合理性。后人类主义反思也许应该成为我们理解后人类纪文明的关键。
严锋
复旦大学中文系教授 严锋探讨了AI与文学的关系。ChatGPT引发了新一轮“文学已死”的争论，文学创作的原创性问题被推向新的高潮。AI的出现跟创作主体的转移或退隐有着直接的关系。从结构主义视角来看，创作主体既不是认识也不是写作的中心，而是结构当中的一个项。如果把这一视角转换到文学上，那么，不是“我”在写文学作品，而是文学作品在写“我”，这个文学作品是无数前辈们作品的累积。目前的AI尚且不能脱离写作者，成为一个新的创作主体，但在未来人类可能会在文学创作领域和AI展开更多合作。当读者有了更多的技术手段去和作者进行合作以后，AI、作者、读者三者可能会形成新的三角关系。另一方面，尽管ChatGPT会提供很多错误信息，但这可能恰恰是文学生长的地方。
刘云杉
北京大学教育学院教授 刘云杉探讨了ChatGPT 给人类的教育与尊严带来的挑战。人工智能已经发展到了系统训练和深谙算法的学习者阶段，可能会加剧白领无产阶级化和中产阶级大量塌陷，并清洗学习生态和重组社会结构。我们需要重点考察，人工智能作为一种教育辅助工具，是如何从“类人”转变为“驯服人”的。教育的“学习化”（learnification）的理念暗藏在这一人工智能趋势背后，这一理念把教育简化为“教学和学习”，学习仅仅关注掌握链接、搜寻与查找、信息的编排与重组，从而与知识、与人的经验、与内在生命的成长脱嵌。这一理念还衍生出一种“学习政治”，将经济问题、就业问题、社会团结问题等都转变为学习困境，试图用“终身学习”来把责任都转移到学习者身上。同时，当今教育领域中盛行一系列以结果为导向的能力话语，这些悬浮和封闭的高阶方法采用去情境、去经验、去过程的策略，更加催生出一种机器式求知的学习模式。人们需要反思催生人工智能的温床，尤其是反思被视为当然的教育理念，以保护人的尊严以及教育对人的庇护。
第五单元
汪行福
会议第五单元由 复旦大学哲学学院教授汪行福主持。
陈忠
苏州大学政治与公共管理学院院长、教授 陈忠指出，“超智能”既指超级智能，也代表超越智能。探讨超智能时代必须先对文明进行前提性的反思，其关键在于物性和人性这两大问题。文明本身缺乏具有确定性的标尺，人们对文明的讨论通常是感性的。然而，文明进步一定有一个以物性为基础的架构。当下对智能化的讨论需要从物性的角度展开。对此，需要思考这样一些问题：智能化能否实现技术变革？能否实现异质性的交织？它是否能为我们打开感性的美丽新世界？面对复杂世界，人们应该回归感性。此外，若想推动智能的文明化，必须对文明本身进行真正的反思，并且在向科学学习的过程中找到一个在新的尺度上物化世界的逻辑。
王金林
复旦大学哲学学院教授 王金林从哲学上对ChatGPT所预示的通用人工智能（AGI）进行了定位，认为AGI不仅是由大规模语言模型所打造的新工具，而且是一种“新存在”，或者说开启了通向新存在的大门。它可以同传统意义上的创造者和被造者相提并论。OpenAI创始人阿尔特曼所提出的AGI三原则，即赋能、共享和谨慎，目的在于让AGI以一种可控的速度逐渐发展，确保整个人类社会有时间搞清楚正在发生什么，从而使AGI的发展方向能够同人类的价值与目标对齐，避免对人类造成灾难性的威胁。有人称ChatGPT为全知机器（All-knowing Machine），这显然是夸大之辞，但这也表明就像人类曾经将自身愿望或本质投射为上帝那样，现在人类开始把全知或全能投射到某种程序或模型上。AGI时代的到来是不可避免的，这是近代主体性原则的贯彻或实现。人类总是要先将自己的本质力量投射到一个对象身上，然后再同其作战，努力使得人的本质能够回归自身。AGI就是人类眼下即将面对的新“神”。问题在于这一次人类能否顺利返回自身。
鲁绍臣
复旦大学哲学学院副教授 鲁绍臣从政治经济学批判的视角对ChatGPT进行了思考。他指出，阿尔特曼发展通用人工智能的目标是希望通过人工智能对生产领域的介入，来使劳动力价值归零，进而彻底冲毁资本主义。对此，国外左翼普遍担忧通用人工智能将成为人类智力与物质劳动创造的剽窃者和攫取者，而该项技术的发展可能将剥削逻辑从传统的工厂领域进一步拓宽到人们的日常生活领域。虽然以齐泽克为代表的另一种观点乐观地认为，让ChatGPT负责低阶工作能为更多的自由时间创造条件，但这种观点忽视了人工智能的发展一方面可能使人类的语言和思维方式被工业化的语言所代理，从而失去真正的自我言说，另一方面也会造成第三世界国家与底层人口的重大失业问题。人工智能的资源究竟为谁所有是我们所面临的核心问题，即ChatGPT对人类文明的祸福问题将始终与权力批判的持续有效展开密切相关。
（本文转载自“探索与争鸣”微信公众号。）
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
