新技术革命如何塑造未来法学？法律人应如何应对ChatGPT的挑战与机遇?
文章主题：
来源 | 西南政法大学
一场学术沙龙
聚焦ChatGPT
由西南政法大学人工智能法学院数据法团队主办
专家学者们
围绕“法律人如何理解ChatGpt”主题
结合各自研究领域
作主题发言
关于ChatGPT
西政6位老师都谈了什么？
一起来看↓↓↓
教师简介：
🌟黄教授，法学泰斗🌟，西南政法大学民商法学院的璀璨之星，博士生导师，享有极高学术声誉的“巴渝学者”与“重庆英才•创新领军人才”。他的学术足迹遍布国内外，对中国法学会民法学研究会贡献良多，担任理事一职。著作丰富多样，包括但不限于《法学方法论》、深度探讨战争法则的《论战争法》，以及对德国流通式不动产担保物权制度进行深入研究的专著——《德国流通式不动产担保物权制度研究》等。他的智慧与学识，不仅点亮了学术殿堂，也通过书籍传承给无数求知者。SEO优化词汇：法学大家黄教授、西南政法大学民商法学院权威学者、译著&专著《法学方法论》等深度解析。
新科技革命与法学认识范式的变迁
在新兴数字技术蓬勃发展的趋势下，作为一个法律人，与时俱进，思考与之相关的问题是必要的。
🌟ChatGPT：革新智能语言，数据力飞跃🔥💡不同于传统模式的局限，ChatGPT凭借其强大的数据抓取与处理能力，实现了深度对话反馈，引领技术新潮流！🔍它基于算法与大数据，通过深层神经网络的智慧，像磁铁般在海量信息中挖掘关键链接，解答疑问，不断优化。🚀法学界也不可忽视这股科技革命洪流，其影响深远，持续重塑认知与学科格局。🌐SEO优化提示：ChatGPT、数据处理能力、深度学习、法学影响、技术革新
随着互联网时代的革新，新兴法学领域如计算法、信息法、AI法及机器人法等应运而生，展现出法学紧跟时代脉搏，积极应对变革的决心。然而，这股科技潮流也导致法学知识体系趋向分散，亟需我们从宏观视角审视其带来的挑战与变迁，以学科共识为引领，推动法学的系统性发展，确保其持续繁荣。📚💻🤖
🌟新科技革命对法学的影响，三大路径深度剖析🔍1️⃣ 场域革新：电子商务、网络交易等虚拟空间中的法律挑战，如人格权保护和知识产权侵权，正经历一场从实体到数字的转变🚀。2️⃣ 结构微调：看似稳定的系统，却在人工智能等技术下悄然变形，权利权重调整成为关键议题🔍。个人信息保护规则的延伸，正是应对这一结构蠕变的智慧之举。3️⃣ 范式重构：区块链、比特币和智能合约等新兴数字应用，对法学传统范式提出严峻挑战，并推动着自治与他治之间的紧张关系升级🔥。法律必须适应这些分布式、自动执行的新规则，迎接这场深刻的范式转换。
法学的自我调整与新理论的共生是其长久演进中的独特现象。深厚的学科底蕴使其形成了一套相对封闭但信息开放的运作体系，尽管科技的进步挑战了直接联系，却也强化了它的独立性和适应性。比如，新兴技术带来的问题往往可以通过逻辑拆解，明确节点和主体关系，再配以权利义务与责任的细致安排，巧妙地与既有法律体系无缝对接。这种能力就像法学语言的独特魅力，虽不直接科技化，但却展现出强大的韧性和灵活性。
🌟第四步：返本开新，探索根源🔍。法学创新之旅，需对经典法学深度剖析与重构，以此为基石，遵循时代脉动，在法律语境的严谨边界内，巧妙地解读新意，或通过实际案例的积累提炼出学理共识，形成新颖的概念。别忘了，传统的智慧是新发展的根基，而非割舍。我们不会摒弃已有的成熟体系，而是寻求其在新时代下的创新转化。新兴学科的成长，往往离不开对传统理论的批判性继承与迭代升级。🌟
第五，面对新的科技成果相关的法律问题的时候，新的法学理论要更多地以实践为导向，保持一定的谦抑性，在实践发展环节充分展现后，累积个案规范，凝聚学理共识，提炼概念范畴，逐步建立规则体系，尤其要注重体系和系统化运用，实事求是，不必太过执着于预先设定的学科领域。
教师简介：
孙宝刚，助理研究员，《人工智能前沿技术》课程负责人，西南政法大学发展规划处处长。
ChatGPT在做什么以及它如何发挥作用
ChatGPT（Chat Generative Pre-trained Transformer）是OpenAI研发的聊天机器人程序，于2022年11月30日发布。ChatGPT是人工智能技术驱动的自然语言处理工具，它能像人一样领会用户发问意图并给出合理回答，它还能根据用户建议修正给出的合理回答，甚至能完成摘要撰写、语言翻译、代码生成、论文写作等任务。
ChatGPT本质是一个应用在对话场景的语言模型，基于GPT3.5通过人类反馈的强化学习微调而来。ChatGPT内部是一个巨大的神经网络，任何给定层的每个神经元基本上都与前一层的每个神经元相连，是一个为处理语言问题而特别设置的神经网络。ChatGPT突破了功能处理模块各自为战的传统方法，统一了功能处理模块。
ChatGPT为什么能做得这么好？一是用提示学习(Prompt Learning)提升了模型的补全能力，二是用指示学习（Instruction Learning）提升了模型的理解能力，三是用强化学习（Reinforcement Learning）提升了模型的对齐（Alignment）能力。
InstructGPT/ChatGPT都是采用GPT-3的网络结构，在GPT-3上通过提示学习更新GPT-3模型，在更新的GPT-3上通过指示学习构建训练样本来训练一个反应预测内容效果的奖励模型（Reward Model），在更新的GPT-3上用奖励模型的打分通过强化学习构建InstructGPT/ChatGPT。
但ChatGPT依旧存在有一定的局限性，尽管开发设计者已经努力让模型拒绝不适当的请求，但它有时仍然会对有毒指令做出反应或者表现出偏见。而这部分内容与道德伦理密切相关，它还存在数据安全、信息安全、隐私安全等问题，如何实现价值理念引领科技活动将是指引ChatGPT良性发展与应用的关键点。
教师简介：
冯子轩，西南政法大学人工智能法学院教授、副院长。兼任：中国法学会网络与信息法学研究会理事、中国法学会行政法学研究会政府规制专委会委员等。出版译著、专著《人工智能法律指南》《人工智能与法律》等。研究领域：新行政法、网络信息与人工智能法学。
ChatGPT所关涉的伦理问题
近日，香港大学发布公告，禁止所有课堂、作业和评估中使用ChatGPT或其他AI工具，否则将被视为抄袭，ChatGPT正在挑战人类社会既有的学术诚信的教育伦理观。
第一，人的主体性受挫。ChatGPT在训练过程中，为了保证正确价值观，以极低价格雇用发展中国家工人阅读负面言论并为ChatGPT做数据标签，部分工人在劳动中出现心理问题，人的劳动也在被遮蔽，联系到引发社会关注的算法霸凌等其他现象，我们需要高度关注人的主体性问题正在受到挑战，将对既有的人类社会伦理秩序产生影响。
第二，机器学习偏见和歧视问题。在ChatGPT首批用户测试中，ChatGPT出现了辱骂用户、诱导用户离婚等言论，在语料库中包含的有害言论，人工智能习得后所做出的有害行为，深刻体现了机器学习的偏见和歧视。人工智能是对人的智能的模拟与延伸，人类社会存在的偏见和歧视的问题将大概率被复制到人工智能中，需引起高度关注。
第三，AI对齐问题。“AI对齐”是AI控制问题中的一个重要问题，要求AI系统的目标要和人类的价值观与利益相对齐。若AI和人类价值观无法对齐，导致AI行为可能无法完全符合人类意图目标，甚至脱离人类控制伤害人类利益。
第四，伦理准则同一问题。社会建构意义上的伦理法则并无贯之以四海皆行的意味，而AI发展需要建构一个符合全体人类伦理价值，这对既有的国家治理体系提出挑战。
坚持价值理念引领科技活动,科技创新要考虑伦理先行。在人工智能未来风险处于不可完全认知，风险评估及成本效益分析等规制手段可能不完全有效的情况下，人工智能技术发展的风险规制应成为社会治理中重要环节。
教师简介：
邬蕾，西南政法大学行政法学院讲师。个人主要理论兴趣有：儒家伦理、法哲学与政治哲学，宪法学和国际法。在《原道》《兰州大学学报》（哲学社会科学版）、《行政法论丛》《立法评论》《中国社会科学报》等刊物上发表论文十余篇。出版译著：《社会的起源与结构》《国家理性、政治宣传与三十年战争》《卢梭立宪学文选》等。
ChatGPT与人文资源的关系
从目前的实际应用看来，ChatGPT暂时还是处于弱人工智能阶段，是作为人类的辅助性工具被使用的。一方面，它简化了大量重复性和常规性的工作，提高了文书类工作的效率。但是，另一方面，也应当警惕，它可能造成人文学科的萎缩。
人文学科而不是人文科学，科学以追求普遍性、客观性为目标，其目的更多是预测，人文学科以人作为理想，以培养理想的人作为目标。科学在于发现，而人文在于创造。这种创造与语言有关，人文学科创造的是人类思想、价值、情感领域，人文学科的进展在于不断拓展和深化人类语言、个性、价值的边界。语言的边界定义了思想的边界。与人的创造力相比，ChatGPT的内在逻辑以既有的数据为基础，其输出的答案以既有数据的重新排列和组合为表现形式。尽管这些“输出”给人以类人化的感觉，然而，其自身无法避免的带有“偏见”、“平庸”、“均质”的特点。这些与人类自身的丰富的知情意的能力还还去甚远。
不过，麻烦的是，ChatGPT已经实现的类人化成就给现代教育带来巨大的挑战。传统教育体制以知识传授为方法，以水平合格为目标。换言之，教育体制以培养一般人文能力的为鹄的。然而，ChatGPT的应用可以让学生轻松过关，从而让应付现代教育变得相当容易。这对于一般的学习来说或许是个简便的法门，但是却可能让受教育者“惰性”成为“习惯”。人文的创造力往往需要刻苦钻研，沉浸其中，与文字、与历史、与语言长期共存，细心玩味，方可能有创造的“偶然性”。ChatGPT给现代人文教育体制构造了巨大的挑战。
教师简介：
贺嘉，西南政法大学人工智能法学院讲师，西南大数据法律研究中心研究员，主要从事人工智能法，数据法，国际法的教学研究工作。主持省部级课题2项，主研《自由贸易港多元纠纷解决机制建构研究》等国家级、省部级课题多项。出版专著一部，参著《仲裁机构地域性困局及对策研究》等多部专著，在核心期刊等公开发表论文10余篇。
ChatGPT的数据安全问题
ChatGPT作为自然语言处理模型，拥有大量的数据资源作为其与训练的基础，而在完成预训练后，仍然需要持续数据输入才可以保障其系统更新和使用价值。因此，ChatGPT的基础在于全球海量数据，如此大量的海量数据汇集，再交由可自主学习的人工智能系统予以聚合、分析和处理，存在的数据安全风险不可小觑。
首先，ChatGPT的数据来源的合法性需要关注。从Chat GPT的模型介绍来看，其知识库数据来源于互联网中的公开数据，ChatGPT所获取的是哪些公开数据？获取公共数据的方式是否合法？是否所有公开数据都可以被商业利用？商业利用数据是否有使用限制？
其次，ChatGPT的数据处理的合法性需要关注。目前来看，Chat GPT对聊天数据进行了一定的安全处理，主要有两个措施：一是，聊天信息会在退出后被强行删除，避免形成聊天记忆；二是，不会主动摄取用户个人信息的数据，但用户告知后，会形成短暂记忆。但这样的安全措施仍然存在数据安全的担忧。从隐私政策和用户协议来看，OpenAI享有很大的数据处理权限，而且并未承诺不会对聊天信息进行处理，而且基于聊天模型的自我学习和改善的技术需求，对于聊天数据的获取是完全有能力有动机去完成的。
教师简介：
霍俊阁，西南政法大学人工智能法学院讲师，《应用法学评论》副主编，主要从事人工智能法学，刑事合规研究。目前共计发表学术论文20余篇，参研国家级、省部级等各类各级课题20余项。主持《医疗人工智能刑事合规原理与实务研究》《我国西南地区跨境电信网络诈骗犯罪治理研究》等课题多项。
ChatGPT的犯罪风险问题
首先，对于ChatGPT这一新事物、新技术，我们需要知道ChatGPT是什么？ChatGPT能够做什么？在认知ChatGPT的时候，我们还需要具备一定的媒介素养，要能够从众多多元化视角的新闻报道中，探知、筛选出与其犯罪风险相关的有效信息。
其次，在ChatGPT所能够做的事项中，隐含着哪些犯罪风险？对于ChatGPT潜在的犯罪风险问题，相关学者和实务专家已经有所阐述。但大致来看，ChatGPT的犯罪风险可以分为三类：一是以ChatGPT为犯罪工具、手段引发的风险，这主要体现为借助ChatGPT实施的传统犯罪。如借助ChatGPT实施的电信网络诈骗犯罪等。二是以ChatGPT为犯罪对象的风险，这主要体现为对ChatGPT本身的侵害风险或者对其生成物的侵害风险。三是ChatGPT因技术错误而自主实施犯罪的风险，这一风险可能出现于ChatGPT的更高技术形态当中。
再次，对于ChatGPT隐含的相关犯罪风险，现行刑法中可能适用的主要治理罪名有，帮助信息网络犯罪活动罪、拒不履行信息网络安全管理义务罪、侵犯公民个人信息罪、侵犯商业秘密罪、侵犯著作权罪、非法获取计算机信息系统数据罪、破坏计算机信息系统罪等。
最后，对ChatGPT隐含的犯罪风险的防范，应当从更加综合、多元的视角展开。在刑法角度，可以从完善事后的刑罚处罚措施，建立事前的刑事合规机制予以切入。在社会角度，可以通过健全人工智能安全相关制度规范，提高ChatGPT技术的安全水平等方面来防范。在社会公众角度，可以通过提升数据素养、算法素养的方式防范ChatGPT的犯罪风险。
以上观点，对你是否有启发？
最后
大家都尝试去问ChatGPT一个问题吧！
责任编辑 | 刘卓知
审核人员 | 张文硕
本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
