人工智能的潜在风险与应对策略

在艺术家的头脑中，机器人能够自我思考、生成代码并最终统治地球的设想，曾经反复被探讨。然而，没有人能够预知，这个未来的日子会如此突然地降临。

山姆·奥特曼，一位以深蓝色西服搭配略显混乱的头发，展现着技术男特有的单纯与执着的形象，昨日（美国时间16日上午10点）在华盛顿特区，他作为ChatGPT之父以及OpenAI的创始人兼CEO，人生中首次出现在美国国会的听证会上。这次会议，是对自去年12月以来在全球范围内风靡一时的ChatGPT聊天机器人的首次正式审查。

OpenAI创始人兼CEO山姆·奥特曼

在同一时间，银柿财经邀请了中国浙江大学人工智能研究所的所长及求是的特任教授吴飞，与我们共同探讨关于AI管控的问题。

山姆·奥特曼：人工智能是一种工具，而不是“生物”

随着聊天机器人工具ChatGPT的成功研发，全球范围内再次掀起了一场人工智能领域的军备竞赛。然而，这一技术也引发了立法者对于潜在风险的关注与担忧。

在本周二的听证会上，为了阐明技术可能带来的潜在威胁，参议院隐私和技术小组主席理查德·布卢门撒尔在会议开始时展示了一段虚拟录音。尽管这段评论是由ChatGPT所撰写，但其声音却是由Blumenthal真实地朗读出来的。布卢门撒尔指出：“如此逼真的虚假信息随意传播，其恶劣影响将是难以想象的。”

在周二的演讲中，OpenAI的首席执行官山姆·奥特曼警告说，人工智能技术有可能被用于操控选票和制造虚假信息，这成为了他关注的“重忧之一”。这一问题变得尤为关键，是因为“明年美国将进行大选”。

奥特曼周二强调，美国政府应该为从事人工智能系统研发的企业设定许可证制度。这种“许可与测试并行”的规定适用于“人工智能模型的设计与发布”。

技术专家认为，尽管建立许可制度有助于集中监管AI，并防止其滥用，但如果AI发展得太快，这一制度可能会排挤较小的参与者或者失去相关性。

据报道，OpenAI近期有一名员工提出创建一个名为“人工智能安全和基础设施安全办公室”（简称OASIS）的美国AI许可机构。尽管奥特曼在其证词中没有对OASIS的具体方案发表评论，但他却提倡构建一个具有高度灵活性的治理框架，以便更好地适应不断发展的技术创新。

IBM副总裁兼首席隐私和信任官克里斯蒂娜?蒙哥马利警告不要创造一个“快速行动，打破现状”的新时代，因为这是脸书等硅谷巨头们长期以来的口头禅。蒙哥马利告诉立法者：“人工智能时代不可能是另一个‘快速行动、打破现状’的时代。”她说，“但我们也不必对创新踩刹车。”

奥特曼和蒙哥马利也表示，尽管人工智能可能会消除一些工作岗位，但会创造新的工作岗位。奥特曼告诉布卢门撒尔：“总体上，我对未来充满乐观。”

奥特曼发表上述言论的前一天，他与60多名众议院议员共进晚餐。据与会人士称，奥特曼展示了ChatGPT的各种用途，“非常有趣”，他形容议员们被这场活动“吸引住了”。该人士补充道，大多数与会者普遍承认，对人工智能的监管是必要的。奥特曼在晚宴上强调，人工智能是一种工具，而不是“生物”，人工智能“可以帮助完成任务，而不是工作”。

在今年的采访中，奥特曼表示，自己很注意人工智能带来的风险，甚至对这项技术“有点害怕”，他和他的公司承诺以负责任的态度向前迈进。

埃隆·马斯克与数十位技术领袖、教授和研究人员曾一起签署了一封信，呼吁像OpenAI这样的人工智能实验室停止训练最强大的人工智能系统至少六个月，理由是“对社会和人类的巨大风险”。奥特曼表示，他同意这封信的部分内容，但“我认为这封信不是解决问题的最佳方式。”

吴飞：对人工智能必须要监管，但又不能五花大绑

关于ChatGPT的未来，加强监管一定是趋势。吴飞教授在与银柿财经的对话中也表示，“我们一定是要监管的，要监管它不能说谎话。”

为了更好地理解ChatGPT等聊天机器人，所带来的挑战时，吴飞教授首先解释ChatGPT了究竟如何生成它的自然语言的。

“它是一个语言合成模型，通过大数据，能从一个词自然关联到另外一个词，有一点像单词接龙。它更多的是一个存在的互联网信息的合成。所以它的语言生成的逻辑就是，存在即合理。”

但现实社会中，大量的信息并不是存在即合理的。吴飞教授说，最怕的就是你今后可能生活在一个充斥错误信息的网络中。

“互联网上充斥大量错误的数据和信息，但如果ChatGPT读了错误的信息后，然后输出我们，我们信以为真，然后把错误的信息再次发布到网上，然后ChatGPT根据这些信息再次输出，这样就会形成一种信息错误链，让你一直生活在各种谣言当中。”

怎么监管呢？

近日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则，并提出了严格监管ChatGPT等AI工具的新思路。欧洲通过的这一法案草案，在吴飞教授看来，可能过于严格，会损害到新生物的产生，也有可能会让欧洲落后于新一轮的科技变革中。

吴飞教授说起另一个案例：1865年英国颁布了一个《道路机车法》，法律规定，机动车需配备一名“红旗手”，换句话说，就是在其步行于车辆前方60码（约55米）处的地方，手持一面醒目的红旗以提前警示前方行人和马车。这项法律的颁布的直接原因，是马车夫等对汽车的抗议，但这导致了汽车并不如马车便利，这也直接导致英国错失汽车大国的机会。

“AI监管比较像一把双刃剑，我们既要鼓励新科技产生，但又要防范和监督它。但绝对不能像欧洲这样对它五花大绑，完全没有生长的空间。”

吴飞教授建议要从技术、立法和道德上，三个层面对人工智能进行监管。“我们从技术层面做一些制约，同时也要积极立法，要对违法的平台，开发团队或者开发者予以相应处罚。同时也是要在人伦道德上，对AI进行监管，比如我们不能把AI用于武器，更不能把准确度只有60%的AI用于武器系统等等。”

今年4月国家网信办已经就《生成式人工智能服务管理办法》下发公开征求意见的通知。吴飞教授看来，这一做法说明，中国政府已对此很重视，也在快速行动了，是高瞻远瞩的，有利于人工智能在国内健康发展和推进的。