文章主题：
卡梅·托拉斯（Carme Torras）作者
数字技术已经成为我们日常生活的一部分，并越来越多地在我们的工作场所和人际关系中扮演中介的角色，甚至取代它们。当代科技发展日新月异,物联网、社交媒体无处不在，人工智能程序通过与人类互动来学习，辅助和陪伴机器人也渐趋普及，电脑游戏不仅具有娱乐性，还可以承载特定目的，如产生社会影响。此外,机器人顾问和数字永生技术等概念也逐渐出现，为人类生活带来全新体验。……这些新兴科技在短期内就能给社会带来深远影响。它们有可能重塑就业格局、颠覆他人声誉、改变城市面貌、重构人际关系网络(不仅是职场,也包括家人朋友等亲密圈子)，甚至让人们在逝世后也能留下数字化的永久印记。科技正以前所未有的方式影响和改变着我们的生活。
与“智能”机器日益增长的互动不仅仅是从工业革命开始的社会转型的又一步。虽然新兴信息技术确实能够解放人类，使他们免于重复性繁琐工作，为他们提供了更多时间去从事创造性和享受性的活动。但这些新兴技术与过去有着本质区别，它们开始触及人类独有的领域，如决策判断、情感体验、人际关系等，这可能会破坏人类的价值体系，并决定我们的社会和生活方式。
这就带来了一系列与其他类型的机器无关的伦理道德难题，这些难题我们缺乏先例可循，也难以预测它们将如何深刻影响人类的未来发展轨迹。因此,人工智能（AI）开始与人文社科领域展开伦理辩论并已经开始结出硕果。不仅体现在相关法规与标准的建立上,还体现在大学教学、职业发展和公共舆论形成方面的教育倡议中。有趣的是,科幻小说（SF）常常扮演着思辨先锋的角色，展现未来场景的利弊得失。正如知名科幻作家尼尔·斯蒂芬森所言：“优秀的科幻小说提供了一种可信、经过深思熟虑的替代性现实图景，其中发生了某种引人入胜的创新。一个好的科幻宇宙具有连贯性和内在逻辑性，对于科学家和工程师来说是合理的。”[1]
AI与人文学科的融合
人工智能研究界已经意识到，需要与社会科学家、心理学家、法学家、哲学家和人类学家等跨学科人员合作，共同分析人工智能技术发展及其应用带来的社会和伦理影响。为此，人们已经组建了跨领域研究团队，启动了联合研究计划。同时,政府和相关机构也在开展调查评估，成立专门委员会以掌握情况，并为人工智能技术的发展制定指导方针和标准规范。
关于后者，一些组织和专业协会正在为AI程序员、机器人设计师、公司和用户制定法规。2019年4月，欧盟委员会AI高级别专家组提出了《可信赖人工智能伦理指南》，同年晚些时候，IEEE标准协会也公布了《合伦理设计：利用人工智能和自主系统最大化人类福祉的愿景》，自2017年12月以来向公众开放讨论，共收到了300多页的深入反馈，由来自商业、学术界和政策领域的1000名专家进行了审查。此前，也有其他一些更温和保守的先驱倡议，如2017年发布的《关于在欧洲正确开发和使用人工智能的巴塞罗那宣言》和《负责地发展人工智能的蒙特利尔宣言》。
制定相关法律法规以推行人工智能伦理是必需的，但更为重要的是通过各级教育来培养公众的批判意识和理性认知。在这一过程中，设计和开发人工智能工具的人员是重点目标群体。毫不奇怪，在大学层面，像芭芭拉·J·格罗兹教授(Barbara J. Grosz)这样的著名学者就主张要将伦理教育融入计算机科学课程，“让学生不只学习如何创造技术，更要思考是否应该这样做”。[2]顺应这一方向，资深协会如计算机协会(ACM)和电气电子工程师协会(IEEE)的计算机科学课程包括18个知识领域，其中一个是“社会问题和专业实践”，旨在“让学生了解相关的社会、伦理、法律和职业问题”。
在推动人工智能与人文学科融合方面，欧洲的牛津大学走得更远，开设了“计算机科学与哲学”双学位，将人工智能、逻辑学、机器人技术、虚拟现实和伦理道德等视为重点关注的交叉领域。这种跨领域复合型学位未来必将在世界各地普及，尤其是在加泰罗尼亚地区，已有多所大学提出相关举措，朝这个方向努力。
科幻小说的作用
自科幻小说（SF）兴起以来，它就一直是科学家和技术人员的灵感源泉。雪莱（Shelley）、凡尔纳（Verne）、赫胥黎（Huxley）等人的经典科幻作品曾预见了今日已经成为现实的太空探索、仿人复制品、基因工程等令人向往的科研探险和创新成果。如今，随着人工智能、机器人等数字技术的迅猛发展，科幻作品再次备受公众瞩目。近年来，业内不乏将科幻作家、电影制作人与科学家、技术开发者联系在一起的倡议。
举个例子，2012年亚利桑那州立大学成立了科学与想象中心。这个想法来自尼尔·斯蒂芬森(Neal Stephenson)在大学校长面前发表的一次发人深省的演讲[3]，他在演讲中指出，今天的科学家已经失去了思考和做“伟大事情”的能力，就像那些曾经激发了阿波罗太空计划或微处理器的人一样。校长回应说，也许是科幻小说作家有错，因为他们没能唤起一个雄心勃勃的未来，激励科学家们把它变成现实。因此，该中心现在拥有科学和人文学科的研究团队，共同设定并追求具有远见卓识的目标，以塑造美好的未来。
该中心运营的项目之一是延续英特尔公司发起的“明日计划”(the Tomorrow Project)，在这个计划中，他们邀请四位科幻作家创作短篇，描绘英特尔产品在光电、机器人、遥测和智能传感器等领域的可能未来应用场景。这四篇作品结集成书,现可公开获取[4]。此后，又陆续出版了多卷作品集,通过视觉艺术和文字写作，为当今人类社会所面临的重大挑战提出解决方案，这些成果均源自该中心开展的工作。
这一方面已经出现了无数的尝试：联合研讨会、前瞻性研讨会、展览、演出，甚至一些顶尖科学期刊也推出过专门探讨科幻灵感的专题。先驱者之一就是享誉盛名的《自然》杂志，为纪念休·埃弗里特三世（Hugh Everett III）关于平行宇宙假说提出50周年，它出版了一期名为《Many Worlds》的专刊[5]，包含了量子力学研究者和科幻作家的文。它的引言非常清楚地阐述了科幻在预见科学发展的利益与风险方面可以发挥的作用：“严肃的科幻小说认真对待科学…科幻小说并不能告诉我们未来会怎样，但在最好的情况下，它能帮助我们理解未来会是什么样子，以及当一种看待世界的方式被另一种方式所取代时，我们会有何感受。”
用科幻故事教学和促进伦理辩论
在人工智能领域教授伦理学与信息科学和工程学的其他课程有很大的不同。与其说是让学生学习一些具体的内容，倒不如说让他们意识到未来工作的社会和伦理影响，并训练他们对这些问题进行分析和辩论。人们持有多种且往往相互冲突的价值观，我们的目标不是将学生的观点统一到一套规则上，而是提高他们的意识和思考及讨论这些问题的能力。此外，技术专业的学生并不是哲学家。尽管他们应该了解一些综合的伦理理论，但哲学文本对他们来说往往过于抽象，通常还是需要提供更实用的选择。
根据Sullins[6]的观点，与人工智能和人机交互相关的主要伦理理论有：结果主义或功利主义(最大限度地增加享受最高利益的人数)、义务论(仅按照可能成为普遍法则的准则行事)、美德伦理学(依靠有美德的个人的道德品质)、社会正义(所有人类应平等对待，若有不公必须有坚实的理由)、共同利益(生活在社区中对个人行为有所约束)、宗教伦理（规范来自于精神权威)和信息伦理(管理信息的创造、组织、传播和使用的政策和准则)。
由于没有一种理论适用于解决技术创新设计和使用中出现的所有伦理问题，务实的选择是采用混合方法。Wallach和Allen[7]主张这种混合伦理是自上而下理论（即那些应用理性原则来推导规范的理论)和自下而上理论(即那些从具体情况推断一般指导方针的理论)的结合。
那么，这些具体情境应该从何而来呢？斯蒂芬森[8]声称：“科幻小说比其他任何东西都做得更好的是，它不仅为某些特定的技术创新提供了一个想法，而且还提供了一幅连贯的画面，描绘了这种创新融入社会、经济和人们的生活。”因此，一些技术伦理课程反复提到科幻小说故事来举例说明冲突的情况。阿西莫夫（Asimov）、迪克（Dick）、布拉德伯里（Bradbury）、奥威尔（Orwell）、赫胥利（Huxley）、霍夫曼（Hoffman）、雪莱（Shelley）、卡佩克（Capek）、威尔斯（Wells）、斯特金（Sturgeon）、西尔弗伯格（Silverberg）或基斯（Keyes）的经典作品中涉及的主题，如机器人三定律、机器人保姆、安全与自由、缺乏隐私、技术极权主义、情感替代品、类人复制品、就业市场上的事件、道德责任、人类控制的丧失、高科技偏见、操纵和自动化的分歧、或人类增强和后人类主义，与AI的发展密切相关。
鉴于这种相关性，教授技术伦理学的讲师们很自然地会反复提到这些科幻小说故事，以举例说明学生在专业实践中可能面临的敏感情景，从而促进有益的反思和辩论。伯顿等人在肯塔基大学教授《科幻小说与计算机伦理》课程五次，以及在伊利诺伊大学芝加哥分校教授该课程两次后，总结了他们的经验：“使用小说来教授伦理学，使学生能够在不涉及个人的情况下，安全地讨论和思考困难且情感上充满争议的问题。”除了强调叙事对学生的吸引力外，作者们还报告了多年来获得的许多值得详细阅读的积极见解。
现代科幻作品涉及了许多经典故事中描绘的伦理问题，但通常更专注于当今数字技术引发的担忧，比如那些源自我们对手机的密集使用、社交网络的广泛互动、基于人工智能的自动决策、沉浸式虚拟现实游戏，以及使用大数据的学习算法，这些都引发了有趣的辩论。图1展示了一些关注这些问题的系列剧和电影。在这方面，系列剧《黑镜》是一部杰作，每一集都将某项特定技术推向其极端后果；电影《她》描绘了一个男人爱上了他的电脑操作系统，从而将霍夫曼的《睡魔》故事转化成数字化的现代背景。与机器人相关的我要特别提到系列剧《真实的人类》，剧中几乎与人类相似的机器人与人共存，经常与人类竞争；以及电影《未来战警》中每个公民都有一个可以从家中控制、在城市中移动并与人互动的化身。电影《机器与弗兰克》因其现实主义和教育价值而值得特别提及，该片展示了老人弗兰克与他的机器人护理员之间的关系，并成为Teach with Movies网站上一个在线机器人伦理课程的基础，以及其他一些地方的参考。
图1：涉及由数字技术，特别是人工智能和机器人技术引发的伦理问题的科幻系列剧和电影。
谈到专门为基于科幻小说的技术学位课程设计的书籍，我要特别推荐Murphy、Nourbakhsh和Torras的作品；参见图2。Murphy编辑的书籍旨在解释人工智能的核心原则；书中包含的故事——由Asimov、Vinge、Aldiss和Dick撰写——涵盖了远程呈现、基于行为的机器人技术、深思熟虑、测试、人机交互、恐怖谷、自然语言理解、机器学习和伦理等主题。每个故事之前都有一个介绍性的说明，“当你阅读故事时以及对其含义的讨论”，“在你阅读完这个故事之后”。
图2：麻省理工学院出版社出版的三本专门以科幻小说为基础教授技术学位课程的书。
另外两本书与本书在两个方面有所不同：i）作者自己编写了用于说明的科幻故事；ii）这些书籍不解释技术原理，而是明确旨在促进对信息和通信技术的社会和伦理影响的讨论。
通过描绘可能的未来场景，Nourbakhsh提出了一些关于我们发展方向的担忧，他既没有采取伦理监管的观点，也没有明确尝试进行教育。这位著名的机器人学家通过集中讨论以下具体主题，提出了非常清晰的见解：网络营销策略；非短暂设计的后果；通过视线追踪操作的机器人飞行玩具；由机器人实现的多模态、多大陆远程呈现；甚至还有一种方式，纳米机器人可能让我们拥有不同身体形态。Nourbakhsh审视了每种场景背后的技术和社会后果。他还提供了一种对立的视角：旨在创造公民和社区赋权的机器人设计。
由于我对于辅助性机器人技术的研究[15]，我逐渐关注我们正在开发的技术的社会和伦理影响，并对向技术人员教授伦理的方法感兴趣。这让我开始尝试进行小说创作，在小说《残心》（The Vestigial Heart）[16]中，我设想了由人工保姆抚养、向机器人教师学习以及与人工智能程序共享工作和休闲将如何影响后代的智力、情感和社交习惯。小说的主要创作动机是哲学家罗伯特·C·所罗门的一句引言：“正是我们构建的关系反过来塑造了我们”。[17]他指的是我们与父母、教师和朋友之间的人际关系，但这句话也可以应用于机器人助手和各种交互式设备，如果它们要渗透到我们的生活中的话。
小说的情节如下：西莉亚（Celia），一个因绝症而被低温冷冻的十三岁女孩，在21世纪被治愈并苏醒过来，目的是被领养。除了她的记忆，她还从过去带来了别的东西：已经不复存在的感觉和情感。这些情感深深吸引了西尔瓦娜（Silvana），一位中年妇女，她作为一名情感按摩师，试图恢复人类已经失去的感觉。西莉亚的情感对于利奥（Leo）来说也是宝贵的研究材料，他是一名生物工程师，正在为神秘的克拉夫特（Craft）博士设计一种创造性假体，克拉夫特博士是领先的机器人公司CraftER的老板。
根据麻省理工学院出版社编辑Marie L. Lee的建议，书中收录了包含24个伦理问题的附录以及围绕小说中出现的情况展开讨论的提示并与在线教师指南和100张幻灯片的演示文稿一起出版，以提供“社会机器人和人工智能中的伦理”课程。该课程涵盖了六大主题：如何设计“完美”的助手；机器人的外观以及情感模拟对于机器人接受度的重要性；人工智能程序在工作场所和教育环境中的作用；自动决策与人类自由和尊严之间的困境；与在程序和机器人中嵌入“道德”相关的公民责任。
教师指南中的每一节都遵循相同的结构：首先从小说中提取一些要点，然后提供相应的伦理背景，接着提出四个问题及其讨论提示，最后以之前章节中讨论过的一些问题的回顾为结束。图3展示这些伦理学教材的结构和涉及的一些问题的幻灯片。
图3：与《残心》相关的教学材料的幻灯片样本显示：（上）道德章节和小说章节之间的对应关系，以及章节结构，（下）一些问题。
这本书及其辅助材料不仅在信息科学和工程学位课程中使用，而且在哲学和工商管理学习中也得到了应用，尤其是在西班牙和美国的几所大学。此外，一些欧洲大学已经表示有兴趣在即将到来的学年中采用这些材料。而且，由Pagès Editors网站提供的、针对中学教育的加泰罗尼亚语版本的材料也已经发布，这些材料同样可以用来激发阅读小组、专家小组、圆桌会议和类似讨论论坛的辩论。
结束语
人们在日常生活中与人工智能程序的互动日益增多，这带来了重大社会和伦理挑战，这些挑战很有可能极大地塑造我们的未来。这就要求技术学位更加接近人文学科，以便学生和专业人士意识到他们在职业生涯中可能面临的敏感问题，并学会反思和讨论这些问题。
我们已经描述了人工智能和机器人学研究人员最新提出的三个建议：一本用经典故事来解释计算原理的书，另外两本书则依赖现代科幻小说来传达技术伦理知识，其独特之处在于这些小说是由研究人员自己编写的，因此这些故事能够准确地阐明将要讨论的问题，此外，这还使得这些材料对技术学生、教师以及可能对这些迷人未来视角感兴趣的普通读者都具有教育吸引力。
让我以这样一句话结束：大多数科幻文学作品都认真对待科学，并试图将其成就投射到未来。科学似乎也开始认真对待这种预见性文学，并从中寻找灵感。这种融合非常富有成效，并且是非常好的消息，为未来几年开辟了有趣的视角。
参考资料来源:
[1] Stephenson, N. (2011) “Innovation starvation”. World Policy Journal, 28(3),11-16. Disponible en línia a:http://www.worldpolicy.org/journal/fall2011/innovation-starvation
[2] Grosz, B.J.; Grant, D.G.; Vredenburgh, K.; Behrends, J.; Hu, L.; Simmons, A. i Waldo, J. (2019) “Embedded EthiCS: integrating ethics across CS education”. Communications of the ACM, 62(8), 54-61.
[3] Stephenson, N. (2011) “Innovation starvation”. World Policy Journal, 28(3), 11-16. Disponible en línia a: http://www.worldpolicy.org/journal/fall2011/innovation-starvation
[4] Rushkoff, D.; Hammond, R.; Thomas, S. i Markus, H. (2012) The Tomorrow
Project. Els millors eors descriuen la vida quotidiana en el món del futur. Intel: Santa Clara.
[5] Everett III, H. (2007) «Many Worlds» Nature, 448(7149): 1-104.
[6] Sullins, J.P. (2015) “Applied professional ethics for the reluctant roboticist”. Dins de The Emerging Policy and Ethics of Human-Robot Interaction, editat per L.D. Riek, W. Hartzog, D. Howard, A. Moon i R. Calo. Taller de treball dins el 10è Congrés Internacional de l’ACM/IEEE sobre la Interacció Humans-Robots, Portland.
[7] Wallach W. i Allen C. (2008) Moral machines: Teaching robots right from wrong. Oxford: Oxford University Press.
[8] Stephenson, N. (2011) “Innovation starvation”. World Policy Journal, 28(3),
11-16. Disponible en línia a:http://www.worldpolicy.org/journal/fall2011/innovation-starvation
[9] Burton, E.; Goldsmith, J. i Mattei, N. (2018) “How to teach computer ethics through science fiction”. Communications of the ACM, 61(8), 54-64.
[10]
• Torras C. (2018) “Social networks and robot companions: Technology, ethics and science fiction”. Metode Science Studies Journal, 99: 47-53.
• Torras C. i López de Mántaras, R. (ed.) (2019) “Interlinked: machines and humans facing the 10101 century”. Metode Science Studies Journal – Annual Review, 9.
[11] Teach with Movies (2012) “Robot Ethics Using Clips from Robot and Frank”. http://teachwithmovies.org/robot-and-frank/
[12] Murphy, R. (ed.) (2018) Robotics Through Science Fiction: Artificial Intelligence Explained Through Six Classic Robot Short Stories. MIT Press: Cambridge, Massachusetts.
[13] Nourbakhsh, I.R. (2013) Robot Futures. MIT Press: Cambridge, Massachusetts.
[14] Torras C. (2018) The Vestigial Heart. A Novel of the Robot Age. MIT Press: Cambridge, Massachusetts (llibre del professor i presentació de 100 diapositives com a material de suport per al docent (en anglès) disponible en línia a: http://mitpress.mit.edu/books/vestigial-heart)
[15]
• Torras C. (2016) “Service robots for citizens of the future”. European Review, 24(1), 17-30.
• Torras C. (2019) “Assistive robotics: Research challenges and ethics education initiatives”. DILEMATA: International Journal of Applied Ethics, 30: 63-77.
[16] First published in Catalan as La mutació sentimental.
[17] Solomon, R.C. (1977) The Passions. Nova York: Anchor Press / Doubleday.
张 云：《赛博朋克时代，我们为什么还要谈中国妖怪？》
周政华：《越过，撞见另一种未来》
?点个“在看”分享洞见返回搜狐，查看更多
🌟文章润色大师在此！👀原文已阅，您的需求我了然。📝让我们一起把这篇华丽的篇章打造成搜索引擎喜爱的语言艺术吧！删繁就简，去除冗余，保留核心观点，让每个词都熠熠生辉。💼同时，我会巧妙地融入关键词，提升SEO指数，让读者一搜即到。💌无需担心作者信息或联系方式，一切以文章质量为先。🏆让我们开始这段文字的华丽转身吧！🔥
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
