揭开历史的面纱，探寻过去的故事？
文章主题：
编者按
2022年11月以来，美国人工智能研究公司OpenAI开发的聊天机器人ChatGPT，迅速成为史上增长最快的消费级应用程序，引发广泛关注。ChatGPT的出现成为人工智能发展的引爆点，推动各国科技创新竞争进入新赛道。技术的跨越必然带来应用场景中的深入观察，无论人工智能服务变得多聪明，适应与满足人类发展需要始终是根本指向。面向未来，多维度多视域探讨ChatGPT对人的生产方式、生活方式、思维方式、行为模式、价值观念以及对产业革命和学术研究等的重要影响，有助于我们正确使用和管理这种技术，进而思考人工智能的发展前景。
2022年11月底，美国人工智能研究公司OpenAI发布了ChatGPT大型语言模型，它能够通过学习和理解人类的语言来执行各种语言任务，包括机器翻译、问答、摘要、生成代码等，协助使用者完成一系列任务，目前月活跃用户已达1亿，成为史上增长最快的消费级应用程序。五年前的两会上，“人工智能”第一次被写入我国政府工作报告，人工智能在中国迎来发展的黄金期。今年2月13日，北京市宣布支持头部企业打造对标ChatGPT的大模型，加强人工智能算力基础设施布局。2月初，百度宣布推出名为“文心一言”的ChatGPT项目，预计3月份将完成内测。阿里巴巴、腾讯、华为、京东、网易有道、小米等众多互联网公司表示将涉足ChatGPT项目。在国外，谷歌、微软等也纷纷着手开发竞品。对这项以“生成式人工智能”（Generative AI）为核心技术的崭新成果，人们抱以极大的热情参与讨论和尝试。如今，科技发展日益呈现加速进步态势，新技术革命带来的阶段性成果也在深刻影响着社会的变革，我们需要赋予科技向善的力量，审慎把握科技发展方向，做好未来规划。现在是正在发生的未来，风物长宜放眼量，ChatGPT热话题需要冷思考。聊天体验：百闻不如一见实践出真知，我们试着与“当事人”ChatGPT聊了聊，了解它如何看待自己的价值，看看它的即时对话内容究竟水平如何，是否已然拥有了人类的思考能力。《中国社会科学报》：你认为未来ChatGPT对科研界的影响有多大？ChatGPT：作为一个大型的语言模型，ChatGPT可以被用于自然语言处理、机器翻译、语音识别、自动文本生成等多个领域的研究，为研究人员提供了一个探索语言和文本本质的强大工具。不过，需要注意的是，ChatGPT虽然可以提供大量的语言数据和分析工具，但它仍然是一个机器学习模型，其输出结果仍然需要人类的审查和纠正。因此，在未来，ChatGPT与人类智慧的结合将成为更加重要的研究方向。《中国社会科学报》：ChatGPT将对社会科学产生怎样的影响？ChatGPT：ChatGPT可以帮助社会科学研究人员更好地理解和分析社会语言数据，为社会科学领域提供新的研究方法和思路。它的应用还有很大的潜力有待发掘。《中国社会科学报》：被ChatGPT影响最大的学科有哪些？为什么？ChatGPT：1．自然语言处理（NLP）。ChatGPT是NLP领域中的重要工具之一，可以完成文本生成、问答系统、语言翻译、自动摘要等多个任务，为NLP领域的研究和实践提供了巨大的帮助。2．人工智能（AI）。ChatGPT的出现代表了自然语言生成技术的一个重要突破，它为AI研究提供了新的思路和工具。ChatGPT的应用也涵盖了多个与AI相关的领域，如机器学习、深度学习、计算机视觉等。3．社会科学。ChatGPT可以帮助研究人员快速分析和理解大量的社会语言数据，为社会科学研究提供了新的方法和思路。4．教育学。ChatGPT可以作为一种在线学习工具，帮助学生快速学习语言知识和技能。例如，可以利用ChatGPT构建在线语言学习平台，为学生提供自适应学习、语言生成等功能。不难发现，ChatGPT的所有回答没有超越人类既有的知识存量和实践智慧，要么是对文本库已存在答案的复述，要么是基于文本概率“算得快”得出的通识，并非天赋异禀，也并没有神乎其神。人人可得：实现AI技术跃迁从1997年深蓝打败国际象棋冠军，到2016年AlphaGo（阿尔法围棋）打败围棋冠军，人工智能其实早已多次引爆全球关注度。但ChatGPT的横空出世，使人们忽然发现AI可以为自己写论文、出文案、写通知，变成了每一个“你我”手边的工具，这是通用人工智能迈出的一大步。“对于普通大众来讲，ChatGPT受欢迎的最大原因就是其高质量的生成文本。很多人对自然语言AI的印象，还停留在时不时会出错的翻译软件或者客服机器人机械的回复，像ChatGPT这样大众也能简单使用的高级AI模型的突然出现，势必会引来空前关注。”中国人工智能学会名誉副理事长、日本工程院院士任福继表示，ChatGPT在底层数据、核心技术、应用场景、用户体验等各方面都具有里程碑式的意义，其最大亮点就在于优秀的语言理解、意图识别、逻辑推理、内容生成等交互能力，某种程度上满足了大众对人工智能的认知与使用需求。ChatGPT之所以火爆，细究根本是因为它的文本生成能力可以完成多种任务。北京外国语大学人工智能与人类语言重点实验室主任李佐文表示，ChatGPT除了与人对话聊天外，还能按照输入的关键词和表达的意图写小说、画图、设计，编写和纠正程序代码，在医疗、法律、教育、咨询服务等领域具有广阔应用前景。它基于海量数据，与搜索引擎相结合，呈现更为符合人类需求的查询结果。除了具有广博的知识，它还能很好地组织自己的话语，并且思路清晰，逻辑严密，几乎接近人类语言能力，甚至能主动承认错误，拒绝不合理的提问，等等。“新闻媒体对ChatGPT的报道和社交媒体对其内容的快速传播，对ChatGPT的出圈起到了明显的促进作用。”上海市计算机学会网络专委会副主任陈阳认为，许多网友通过在社交平台上分享ChatGPT服务及其使用心得，从而吸引了更多的用户加入使用行列，最终出现了一种“滚雪球”效应。亦喜亦忧：多个学科领域挑战与机遇并存互联网和人工智能诞生以来，作为又一项充满挑战性的发明，ChatGPT对于人文社会科学影响巨大。以至于中国社会科学院学部委员陈众议发出了“亦喜亦忧，可想而未知”的喟叹。在陈众议看来，ChatGPT像一把双刃剑，在帮忙、助学的同时正在进一步助推人类对人工智能的依赖，从而唤醒或触发惰性。人之所以为人，除了知识和技能，还有更加重要的身心健康和情感交流。人需要知道，但更需要知不知，需要有想象力和同情心，需要家国情怀和理想抱负，这些都不是ChatGPT可以给予的。人类需要的是个性化的思想、情感与文体和别具问题意识的探究，而非千人一面的模块写作和标准答案。“ChatGPT给人文社会科学带来的机会大于冲击。”南京大学社会学院教授陈云松认为，ChatGPT是一个很好的“助手”，它强在对既有文本的整合和输出方面，但它不太具备创新能力，也无法生成新的观点和想法，而这往往是研究者所拥有的能力。如果研究者擅长提出问题，或许可以有效利用ChatGPT的整合能力和检索能力，产生很多新想法。总体来讲，ChatGPT对现有的人文社会科学影响不大，更多可能会为研究者带来一些帮助，突破学科壁垒，让学者们收集到更多以前无法获得的数据。教育学领域的ChatGPT应用引起了较大争议。清华大学教育研究院副院长韩锡斌表示，教育有不同功能，如知识传授、能力培养、价值塑造等。ChatGPT的本质是互联网中超大量文本的模糊转述，其局限性十分突出，如前后信息的不一致性（不可控）、不准确性（模型泛化、数据偏见）、不具备情感理解能力、只能集成无法创造等。在韩锡斌看来，ChatGPT的最大贡献在于，将AI的研发成果大规模应用于每个普通人的日常场景中。以此为契机，以往受智能技术制约而一直裹足不前的个性化学习、差异化教学等，将会迎来新的发展机遇，如利用ChatGPT的文本式对话功能，帮助学生以自然语言的方式搜索资源，获得更具个性化和精准的学习体验；作为智能学伴，激发学生好奇心、训练学生提问的能力和批判性思维；辅助教师进行备课资料搜集、教学活动设计、教学资源整合、课后答疑与拓展反馈等。“我们需要勇敢直面该技术对教育学可能带来的负面影响。”北京大学教育学院教授贾积有认为，首先它产生的内容不可控、不确定；其次，它产生的文本能够被学生用于完成书面作业甚至通过测试，这会弱化学生的思维能力，强化学习惰性，不利于创造性思维培养。此外，对于教育学者而言，更具颠覆性的挑战就是如何通过制订教育政策和管理措施，来发挥ChatGPT之类的前沿技术的作用，培养学生的核心素养，促进教育发展和变革。随着ChatGPT等人工智能技术广泛深度嵌入社会治理各个领域环节，传统治理的思维结构、技术体系和价值导向都会受到挑战。哈尔滨工业大学公共管理系主任刘鲁宁认为，对公共管理而言，ChatGPT的快速崛起为优化数字政府建设方案提供了新的方向。基于ChatGPT等人工智能技术的数字政府建设，将是减少政府行政负担的重要手段。未来，民众与政府之间的沟通互动将更多地依靠人工智能。但是，ChatGPT在赋能社会治理的同时，可能加剧“信息孤岛”“数字鸿沟”等问题。尤其是经过欧美国家训练，受到西方价值观渗透的AI应用可能带来一定的意识形态安全风险。即便是自然语言规范性和精确性要求极高的法律领域，CharGPT也能够参与诸多法律问题的文本处理工作。2023年1月30日，哥伦比亚的一名法官采用ChatGPT的文本生成功能以增加案件判决书的说理依据，由此诞生了“全球首份使用ChatGPT做出的判决书”，但ChatGPT涉及的法律问题却不容忽视。中国人民大学交叉科学研究院院长杨东认为，首先，ChatGPT回答的准确性有限，对于法律专业问题仍然需要人工修正。其次，ChatGPT的错误或者歧视性回答容易误导用户，这主要受制于训练数据的有限与潜在偏见。再次，ChatGPT会成为当前数字化应用的一个规模极其巨大的流量入口，国与国、企业与企业之间数据争夺趋势愈发明显，无疑会在世界范围内诱发数据开发与获取的正循环，进而造成大量的用户数据垄断。最后，ChatGPT回答的时效性有待提升，其训练数据并非实时更新，而国内不断更新修正的法律法规也没有实时纳入数据库。当然，ChatGPT给数字法学发展提供了一个重大机遇。杨东表示，一方面，以ChatGPT为代表的生成式人工智能高度依赖庞大的数据库，而数据挖掘与训练过程需要注重数据的高度互联互通。促进国内人工智能技术发展，应打破当前平台经济的数据封建主义，避免元平台数据垄断，在“数据二十条”的轨道上继续推动数字时代新型基础设施建设。另一方面，提升ChatGPT的问答能力，有赖于交叉学科的发展，应大力推进交叉学科的研究。对于ChatGPT给新闻传播学带来的新变局，清华大学新闻与传播学院教授沈阳认为，ChatGPT在目前的性能状态下，对于媒体内容的生产具有明显提高效率的能力。但随着内容创作成本的下降，我们的社交媒体将会出现大量的基于AIGC（AI Generated Content，指利用人工智能技术生成内容）的内容创作账号，高效率、低成本的内容创作将取代原来高成本的人工创作，这对生产结构会产生重大影响。作为世界上声望颇高的科学杂志，《自然》（Nature）已经规定，ChatGPT等大模型不能被列为作者。如在论文创作中用过相关工具，作者应在“方法”或“致谢”或适当的部分加以说明。国内各大C刊也相继声明，暂不接受任何大型语言模型工具单独或联合署名的文章。在《天津社会科学》主编时世平看来，ChatGPT强大的数据检索与加工能力可以辅助学术创作，但是对于以学术创新性为追求的高级论文写作，ChatGPT只能做到材料的物理加工，不会产生创新性思想，学术创新目标与技术手段应用不能混为一谈。因此，ChatGPT只能作为学者写作的中介要素，不能作为论文最终文本形态的生成方式。在社会科学领域外，宽阔的自然科学蓝海中，人工智能研究早已洪波涌起。传统自然科学呈现出的“AI+自然科学”新模式，是一场正在发生的科技革命，通过协助突破人类固有的认知局限，以ChatGPT为代表的AI有望成为未来推动自然科学前进的重要动力，包括生命科学、材料科学、气象科学等。任福继表示，所有拥有潜在大数据研究资源的学科或行业都将受到ChatGPT的影响，其中又以生命科学为甚，见效尤快。目前，人工智能技术已经颠覆了生命科学的研究范式，在生物信息检索抽取、小分子生成、蛋白质结构研究等领域取得实际进展。打开魔盒：建立完整控制机制从当前的表现来看，人工智能不可能完全替代人的智慧和创造力，ChatGPT的有些内容经不起推敲，被网友戏称是在“一本正经”地胡说八道。任福继表示，ChatGPT的文本生成水平在很多方面虽然超过了大部分未经专业训练的普通人，但是存在可能会被用于制造假新闻、虚假广告、网络欺诈等的潜在风险点。他告诉记者，其实学术界相关的对策性研究早已开始，比如针对对抗攻击（Adversarial Attack）的研究就是热点之一。筛选预训练数据、进行对抗训练、植入阻断架构等，是防止人工智能深度学习模型分类判断出现错误的有效手段。但是，确保人工智能安全，尤其是对于伦理和法规方面的问题，迫切需要学术界和社会共同努力解决。目前，ChatGPT只是在执行一个“搜索—整合—生成”的指令过程，并没有真正意义上的思考创造。因此，ChatGPT生成的内容取决于资料来源，缺乏对事实性错误负责的“自主心智”，更缺乏客观世界模型，无法对数学、物理与社会形成真实完整的理解。刘鲁宁特意强调，在更广泛的意义上，AIGC按照模态来划分有文本生成、音频生成、图像生成、视频生成及图像、视频、文本间的跨模态生成等，ChatGPT只是这些模态里的“文本生成”的一种。虽然它有很大的开发价值，但是AIGC面临的知识产权、信息安全、伦理和环境等多方面问题是整体性的，国内外的通行做法是考虑除AI外，是否还有人的智力参与其中。ChatGPT就像开启的潘多拉魔盒，其在隐私和个人信息安全方面的风险引发不少质疑。厦门大学信息科学与技术学院教授纪荣嵘表示，由于ChatGPT等技术需要收集和处理用户的大量信息和数据，加上开发和应用场景涉及多个主体和领域，必然存在数据共享、协作和治理问题。为此，要加强对ChatGPT等技术的安全审计和漏洞管理，建立一套完整的控制机制，及时发现和修复安全漏洞和风险。人工智能带来的产业形态变化，必须防止极端化问题。当人工智能触及技术极端性时，就不可再简单以“最大化”和“在商言商”观念来确定产业规则。中国社会科学院学部委员金碚认为，大力促进人工智能发展，要警惕它所具有的如极端的信息透明、极端的产业集中、极端的就业替代等倾向与伦理价值损害，这就是马克思所告诫的事与愿违“异化”现象。展望未来：更好地塑造人机协同生态“ChatGPT通过了谷歌公司的面试”“ChatGPT参加了号称美国高考的SAT考试，成绩中等”“ChatGPT用几个小时独立撰写了一本图书”……自从ChatGPT出圈后，很多打工人担心自己的工作未来会被替代。与此相反，ChatGPT倒认为它可以创造新的就业机会。清华大学计算机科学与技术系副教授刘知远表示，ChatGPT能够完成编程、写作等过去看上去很复杂的任务，可以替代大量包含专业知识的机械脑力劳动，通过极大提高工作效率，增进社会运转，也能创造新就业岗位，但需要格外注意的是必须提高从业者的创新能力培养。清华大学社会网络研究中心主任罗家德是ChatGPT的使用者，他和伙伴在训练ChatGPT用以生成社会组织的评估报告过程中发现，它很“谦逊”地表示无法对专家收集的社会组织资料做价值判断的事。网上不少测试也显示，ChatGPT不能胜任批判性的、情绪性的、社交性的以及创意性的工作。在罗家德看来，或许以后例行公事的服务性工作会失去竞争力，但专业中有价值判断性、情绪性、社交性以及创意性的内容，将成为新工作的来源。与此相关，对于超大规模预训练模型这项技术是否会引发新一轮行业变革，刘知远认为，基础模型则是ChatGPT等生成式人工智能技术产品的核心技术基座，推进相关产品研发必然影响产业格局，这源于它将是未来人工智能研究、应用的基本范式和基础设施，是人工智能前沿的制高点。ChatGPT的出现标志着语言智能技术可以融合于信息搜索、人机交互、代码生成等方面，未来人工智能的应用场景空间广阔。李佐文表示，从长远来看，需要人类智慧、创新能力、情感交流等高阶智能的领域，并不会受到这项技术的影响，它毕竟是一个基于预存知识的预训练语言模型，不能理解自己输出的内容，自然不具备真正的理解能力和创造能力。但是，对语言智能领域的研究范式和发展走向会带来巨大冲击。李佐文进一步说，从全球语言智能的发展来看，大模型范式的一路领航势必导致技术、资源、用户的高度趋合，最终走向技术和资源的单极垄断。面对语言智能的新发展和新挑战，未来可以着重考虑在深度学习模型的优化、理解与生成多模态语言、构建领域知识图谱等方面发力。作为语言人工智能产品，ChatGPT只是目前人工智能发展的方向之一。未来，包括语言人工智能、艺术人工智能在内的全方位多样化人工智能的发展，将给人类社会生活和社会生产方式带来重要影响。国家语委中国语言智能研究中心主任周建设认为，物性工具和智性工具是保障人类物质生活和精神生活的两大法宝，前者的改进促进人们物质生活水平的提高，后者的改进促进人们精神生活水平的提高。语言是智性工具的代表，ChatGPT的问世是智性工具的革命，将逐渐改变与语言交互密切相关的业务、岗位、行业的结构和人力物力资源配置，最终导致生产关系发生变化。同时，ChatGPT的大规模语料和强大算力，将有助于人类快速回答和解决知识性问题，整体提升人类知识层级，促使基于友好知识的智力发展和创造力提升。“人类需要做好准备，才能从容应对ChatGPT的后续发展。”周建设说，首先，我们应当加强学习，认识语言智能科技的特点，顺势而为，择善而从。其次，应当冷静分析ChatGPT自身的不足，提高鉴别ChatGPT低质生成服务的能力，制定相应的技术治理措施，避免其在社会应用中带来的某些消极影响。人类相继经历了“人力”“马力”和“动力”时代，而“算力”即将成为人类能力延伸和推动社会进步的新的变革性力量。“人工智能最初的发展方向主要是决策式AI，根据已有数据进行分析预测。现在ChatGPT所代表的生成式AI，则强调在学习归纳后进行演绎创造，这种AI用途的结构性变革揭示了未来人工智能研究与应用的新方向。”刘鲁宁提醒道，ChatGPT基于大型预训练语言模型，有很高的资金、数据、算力、能源投入门槛，很可能会引发生产资料的过度集中。马克思主义认为，劳动资料不仅是社会生产力发展的测量器，也是劳动借以进行的社会关系的指示器。面对生产力的快速跃升，生产什么和怎样生产必然带来生产关系剧烈变革的一个新议题——“人机关系”：我们应该如何更好地塑造人机协同生态，让科技造福人类？科技属人，实现人的自由全面发展是科技进步的根本目的，就是坚持以人民为中心，让生活更美好。科技异化，则会加剧社会风险，引发伦理难题和治理困境。面向未来，用好人工智能这把利器，既要深化先进智能基础理论研究，又要加强人工智能领域的立法工作，进而优化产业政策，才能实现趋利避害，让“利”更好地发挥出来，为人类文明进步贡献向善的力量。
来源：中国社会科学报
责任编辑：刘娟
新媒体编辑：刘星
历史阅读
【解码ChatGPT⑮】海伦·克朗普顿 | ChatGPT时代：教育如何创新
【解码ChatGPT⑭】罗曼·V. 扬波尔斯基 奥托·巴滕：ChatGPT等语言模型可能构成生存性风险
【解码ChatGPT⑬】韦斯利·J. 怀尔德曼 | 与机器共情：将人类意图与智能工具相结合
【解码ChatGPT⑫】齐佳音：从ChatGPT谈人工智能时代的管理范式变革
【解码ChatGPT⑪】郭丰 李贤达：ChatGPT引发互联网治理新变局
【解码ChatGPT⑩】张明新 赵浩天：理解ChatGPT的扩散
【解码ChatGPT⑨】高奇琦：ChatGPT的“创造性破坏”效应及其风险应对
【解码ChatGPT⑧】周宏春：ChatGPT如何影响社会生产生活？
【解码ChatGPT⑦】刘鲁宁 刘勉：辩证看待ChatGPT影响智能社会治理的效用
【解码ChatGPT⑤】成素梅：ChatGPT引发人机关系新思考
【解码ChatGPT④】肖峰：何种生成？能否创造？——ChatGPT的附魅与祛魅
【解码ChatGPT③】徐磊：促进人类智能与机器智能的伟大共谋
【解码ChatGPT①】杨溟 | 人机融合智能：一条通向未知的艰险征途
点个“在看”不失联戳“阅读原文”一起来充电吧!
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
