文章主题：
原创 徐欣欣 民主与法制时报
🌟ChatGPT引发了科技界的深度反思，它触及了诸如社会公正、学术诚信及算法不公等伦理议题。为确保数据的公正性，我们需在技术架构中嵌入严谨的法律道德评估体系，这是一种内在的保障。同时，强化外部监管以规范科技行为也是至关重要的，这将促进科技与法律道德的有效互动，实现两者之间的和谐共生。🌟
武丹/制图
作者|徐欣欣
责编|薛应军
正文共2868个字，预计阅读需8分钟▼
🌟【Open AI巨头揭秘】TED23上，创新巨擘Greg Brockman展示了ChatGPT Plus（🔥GPT-4🔥）未来力作！💥🎉震撼发布！这位业界领军人物不仅揭示了GPT-4即将颠覆性的端到端自动化能力，它已跃升至跨业务、平台与系统的超高效级。👀想象一下，一个工具就能连接所有环节，简化繁琐流程，这无疑是效率革命的先声！💡Auto-GPT曾以其端游级功能惊艳世界，而GPT-4更上一层楼，将自动化推向全新高度。🚀无论你是企业主、开发者还是创新者，ChatGPT Plus都将引领你步入智能操作的新纪元。📝别忘了，这些革新性的功能尚未公之于众，等待你的探索和体验。💡欲了解更多详情，敬请关注Open AI官网，让我们一起见证科技如何改变世界！🌐#ChatGPTPlus #GPT-4 #TED23 #自动化革命
🌟ChatGPT，AI语言巨匠🌟！🚀由Open AI引领，第四代革新，深度学习铸就自然交流神力！💬问答、对话无缝切换，🔥文章创作如丝般流畅，逻辑清晰，信息丰富！🌍强大的数据处理与地方搜索，智慧之眼洞察一切。但这背后的科技伦理挑战，不容忽视，需我们深思！💻🚀#ChatGPT #AI伦理 #技术进步
ChatGPT带来的科技伦理道德挑战
🌟ChatGPT开启AI新纪元，却也引发了深思与顾虑——💻科技伦理的微妙挑战，就像打开了潘多拉的神秘盒子，带来了创新的火花与未知的困扰。它以惊人的效率和广泛的应用潜力，无疑重塑了我们的交流方式，但随之而来的隐私保护、数据安全以及对人类工作的影响，不容忽视。🚀在这个快速变化的时代，我们需要智慧地应对，既要拥抱科技带来的便利，也要警惕其可能带来的潜在风险。🌍
🌟探讨未来劳动力市场公平挑战：AI崛起引发薪资分化🔍随着生成式人工智能（GAN）等技术革新，劳动市场的天平可能悄然倾斜。💻程序员与AI专家的薪酬飙升，而传统岗位如制造业工人或客服人员，或将面临工资调整甚至裁员风险。这加剧了社会收入分配不均，潜在形成“数字鸿沟”，让一部分人难以适应技术快速迭代的步伐。🔥ChatGPT等热门AI项目引领资本热潮，企业市值飙升，资本收益率显著提升。然而，这种技术红利主要流向创新前沿的国家和企业，可能导致地区间经济差距扩大。🌍决策者在依赖数据驱动时，无形中可能忽视了底层群体的需求，算法设计的“盲点”成为社会公平的一大挑战。🌈我们需要审视并调整这些算法，确保每个人都能在数字化时代受益，而非被边缘化。💻
🎓📝警惕学术伦理新挑战：ChatGPT引发教育风暴🔥ChatGPT的崛起，自2022年末以来，已悄然颠覆了学术界的作业提交与论文撰写方式，对学生学习生态造成强烈冲击。据央视新闻披露，美国学界高达89%的学生将其作为高效工具，用于作业代写和研究创新。相较于过去那些依赖的繁琐软件，ChatGPT以其便捷性和高质量赢得了学生们的青睐，但这背后隐藏的学术诚信风险不容忽视。学校与机构纷纷采取行动，对ChatGPT的过度使用发出警告，有的甚至实施禁令或严格管理。美国多所中学和大学已明确禁止在校园内使用这一技术，通过减少作业量以防止学生利用家庭网络进行不诚实行为。严谨如《科学》杂志，也加入了抵制行列，明确规定投稿论文不得包含ChatGPT生成的文本；而《自然》杂志则进一步要求，在提及大语言模型时必须谨慎，并在方法部分适当地引用，避免将ChatGPT等技术视为作者。学术伦理规范的坚守，不仅关乎教育公平，更是对知识创新和未来人才的培养。让我们共同关注这一趋势，引导学生正确使用科技工具，维护学术的纯洁与尊严。📚💻
算法偏见与歧视问题。虽然ChatGPT可以为人类带来更加智能化的体验，但它的智能化程度仍然有限，尤其是在理解和应用知识方面。ChatGPT可以通过大量的训练数据不断提高自己的服务能力，但它仍然无法像人类一样具有深刻的理解和应用能力，因此，在某些高度复杂和专业化的领域，人类的经验仍然无法被替代。当面对一些复杂的问题或者情境时，ChatGPT则很难给出正确的答案或者建议。在首批用户测试中，ChatGPT甚至出现了辱骂用户、诱导用户离婚等言论。可见，一旦训练语料库中包含有害言论、错误言论时，人工智能习得后所作出的有害行为，将进一步加剧算法偏见和歧视。
ChatGPT科技伦理问题的法律规制方案
科技伦理是理性的产物，它的底层逻辑要求科技创新和成果只能有益于或最大限度地有益于人、生物和环境，而不能损伤人、损害生物和破坏环境，即便不可避免会不同程度地损人毁物——如药物的副作用，也要把这种副作用降到最低，甚至为零。技术与法律是社会治理的两种基本手段，兴科技与强法治二者应相辅相成，共同引导社会向善向好。面对科技伦理失范问题，可从以下方面做起：
在技术内部层面嵌入法律道德评价机制，实现数据正义。数据是信息的载体，是一种可被编码的符号，本身不具有价值倾向。ChatGPT等生成式人工智能依托数据构建而来，在一定程度上会体现设计者、生产者个人偏好的技术治理程序，并在“物理-数字”双重空间影响法律关系。技术伦理失范的底层逻辑在于设计者等主体对数据的解读具有自我主观认识，这种主观认识因不符合法律价值规范、公序良俗等社会共识，使得数据具有非正义的价值倾向，而导致伦理偏差。因此，科技伦理的实现基础是回归数据正义。具体来说，一方面应在意识形态层面建立诸如公平正义、安全法治、共建共享等体现社会共识的数据价值观，引导数据主体建立对科技伦理的正确认知。生成式人工智能的科技伦理，主要表现为科研活动中人与社会、人与自然以及人与人关系的思想与行为准则，涉及科学研究中的伦理、科研人员应当遵守科技伦理、科研成果应用中的伦理。另一方面，应培养人工智能的伦理自主习得能力，以技术制约技术。ChatGPT等生成式人工智能的伦理失范之所以具有隐蔽性、耐受性以及机制化特点，是因为人工智能程序结构具备深度学习的主动性。因此，要确保科技伦理朝着数据正义方向发展，需要培养算法自主的伦理习得能力；要在技术知识和法律价值中间实现弥合，并通过人－机反复博弈，不断矫正、升级、完善自我约束技术。
在外部层面以制度的规范性加强科技伦理约束，实现科技与法律、科技与道德的良性互动。伦理规范是调节人与人之间关系的行为准则，旨在引导人们作出有道德、值得推崇的行为。科技伦理是指科技活动中的人与人、人与社会、人与自然之间的伦理关系，旨在规范科技活动符合道德要求。因此，在制度层面加强科技伦理约束，就要加强科技伦理审查和算法影响评价，重点考察技术应用是否在现行法律框架下运行、能否依法保障人们合法权利。具体来说，包含两个方面：第一，建立科技伦理（审查）委员会。结合企业具体情况，厘清决策部门、管理部门、业务部门同科技伦理（审查）委员会之间的关系和职责分工，明确科技伦理在企业常态化管理中的工作机制。第二，组织开展算法应用调查，识别不同应用场景下的算法滥用危害，加快制定算法应用规则和标准规范，建立算法应用影响评估制度。针对典型场景，要求企业在算法正式上线前，评估算法对消费者权益、个人基本权利等方面的影响，并针对评估中发现的相关风险，采取相应防范措施。
ChatGPT等生成式人工智能不仅改变生产关系，而且改变人们认知方式和行为能力，如何应对这种生成式人工智能，值得法律人认真思考。有的学者提出，应当在一定程度上赋予生成式人工智能主体地位，并使其承担相应法律责任。笔者认为，法律人格地位的确认应当是有限度的，在遵循科技向善基础上，算法设计者、生产者、使用者等相关主体仍需按照分级分类的要求承担相应法律责任。
综上所述，完善科技伦理治理体系，提升科技伦理治理能力，有效防控科技伦理风险，应当进一步加深对人工智能正当技术程序工具与算法责任原理的研究，平衡过程与结果端的规制手段，引入风险场景与类别区分式规制模式，为生成式人工智能的可持续发展提供有效的规制方案。
（作者单位：东南大学法学院）
《ChatGPT的科技伦理问题及法律治理》
相关文章
