监管AI的十字路口：众包、公约与大学抗议的背后声音

🌟💡OpenAI引领未来AI治理新思路：🚀让”全民智识”闪耀，以🔥”众包”力量驱动，共建深度审议的✨殿堂。我们期待一个广泛代表的声音汇合，参与深入辩论，通过🌈透明决策，确保结果公正无偏。🌍让智能监管走向民主，为AI世界带来稳健与智慧！🌟

🌟欧盟数字政策领军人物提姆·布雷顿与全球科技巨头谷歌的掌门人桑迪·皮查伊展开了一场深入的对话，议题聚焦于推动一项创新的“AI伦理共识”——一套非官方的行动指南，旨在为人工智能行业的前行者们在正式法规生效前提供行为准则。💡这旨在确保技术发展的同时，遵循道德与法律的边界，为AI领域的可持续性打下坚实基础。

人类历史上可能没有哪个行业的企业这么急于让自己被监管。

在美国国会听证会上呼吁设立新机构监管AI后，OpenAI首席执行官山姆·奥特曼（Sam Altman）又展开欧洲之旅，面见各国政府首脑，并在高校参加对话活动，重申监管建议。在接受媒体采访时，他警告称，因为欧盟正在制定的AI法规，OpenAI可能会从欧洲市场撤出其服务。

Microsoft’s top exec, Brad Smith, didn’t miss a beat. On May 25th, in a high-profile event held alongside US lawmakers in Washington, the tech giant made waves by unveiling Microsoft’s proposed guidelines for AI governance, as announced by the company’s CEO himself. The move signifies Microsoft’s commitment to shaping the future of AI regulation, aiming to influence the conversation and potentially set industry standards. 📈💻👩‍💼

🌟谷歌CEO皮查伊🌟日前在布鲁塞尔的欧盟高峰会议中，就AI议题展开深入对话，他明确提出，我们需要明智地监管科技，以确保其发展的同时不会抑制创意的火花🔥。这场关于未来科技走向的重要讨论，旨在找到平衡监管与创新之间的微妙之道🌈。

奥特曼对“对齐”持乐观态度

🎉【科技盛宴】💥 5月24日，伦敦大学学院见证了一场关于未来科技的热门对话！数千名热情观众翘首以盼，只为一睹ChatGPT的魅力，与奥特曼展开知识的交锋。📚阳光下，学术氛围浓厚，大家热烈讨论着OpenAI的创新和AI技术的进步，每一个字眼都充满了对智能未来的探索。👩‍💻然而，也有少数声音担忧，他们呼吁科技巨头们要谨慎前行，防止AI失控带来的潜在风险。 güvence altı: 保护人类免受先进AI可能带来的潜在威胁是当务之急。🌍SEO优化提示：使用相关关键词如”ChatGPT”, “奥特曼对话”, “OpenAI”, “AI伦理”, “未来科技趋势”等，同时保持内容的自然流畅和信息准确性。

打开凤凰新闻，查看更多高清图片

OpenAI首席执行官山姆·奥特曼举行对话活动的伦敦大学学院外，有人举牌抗议，反对通用人工智能

🌟【环保行动】学生呼吁警惕！🌍——太阳能地球工程：潜在威胁还是解决方案？？一位来自牛津大学的热衷于探索太阳能地球工程（ özel enerji）风险的学生吉迪恩·富特曼(Gideon Futerman)，以其激进视角，对科技媒体The Verge发声。他警告，我们正面临一个已知危害显著的系统，不容忽视！🌍🔥这位学者直言不讳，尽管技术可能带来革新，但潜在的风险同样紧迫。他认为，我们必须采取行动，防止可能的灾难性后果。🚫🛡️太阳能地球工程，这个备受争议的话题，引发了关于生存与科技进步之间微妙平衡的深思。它既是应对气候变化的创新工具，也可能成为新的风险源头。我们需要更全面、深入的评估，以确保人类安全。🔍🛠️富特曼的观点并非孤立，他的呼吁引发了公众对这一领域未来发展的广泛讨论。让我们一起关注，为我们的地球和未来负责。🌍🤝#太阳能地球工程 #环保行动 #学生声音

不过，奥特曼走上讲台时还是受到了热烈的欢迎。他在对话中重申了之前的论点，称人们担心AI是对的，但AI的潜在好处要大得多。他对监管的前景表示欢迎，但仅限于正确的监管方式。他说，希望看到“介于传统欧洲方法和传统美国方法之间的东西”，也就是说，有点监管，但不要太多。他强调，太多的规则可能会损害小公司和开源运动。

奥特曼提到了错误信息的话题，称他特别担心AI系统在传播错误信息时的“互动、个性化、说服能力”。与他对话的作家阿泽姆·阿扎尔（Azeem Azhar）提出，AI系统可能会冒充人工语音呼叫某人。奥特曼说：“我认为这将是一个挑战，而且还有很多工作要做。”

但是，奥特曼相信即使是目前的AI工具也会减少世界上的不平等现象，并且“在这场技术革命的另一端将会有更多的工作机会”。“我认为世界的基本模型是，智力成本和能源成本是两种有限的投入……如果你能让这些东西变得更便宜、更容易获得，那么坦率地说，这对穷人的帮助要大于对富人的帮助。”他说，“这项技术将提升整个世界。”

奥特曼对科学家通过“对齐”控制日益强大的AI系统的能力持乐观态度。“我们有很多想法，我们已经发表了关于超级智能系统对齐方式的想法，但我相信这是一个技术上可以解决的问题。”他说，“而且我现在对这个答案感到比几年前更有信心。有一些我认为不是很好的路径，我希望我们避免这些。但老实说，我对事情目前的发展轨迹相当满意。”

对欧盟的人工智能法案有很多担忧

到目前为止，奥特曼在这趟欧洲之行中已经与法国总统马克龙、英国首相苏纳克、波兰总理莫拉维茨基和西班牙首相桑切斯举行了会晤。目的似乎是双重的：平息因ChatGPT引起的对AI的恐惧，并在AI监管的对话中取得主动权。

OpenAI首席执行官山姆·奥特曼在法国与法国总统马克龙会晤

OpenAI首席执行官山姆·奥特曼与英国首相苏纳克、DeepMind首席执行官Demis Hassabis等人在伦敦会晤

在接受媒体采访时，奥特曼说，他对欧盟的人工智能法案有“很多担忧”。

该法案目前正在由立法者最终确定，其条款在最近几个月得到了扩展，其中包括OpenAI等“基础模型”开发者的新义务。草案中的一项规定要求基础模型的创建者披露有关其系统设计的详细信息，包括“所需的计算能力、训练时间以及与模型大小和功率相关的其他相关信息”，并提供用于训练的受版权保护的数据摘要。ChatGPT和DALL-E等生成式AI系统使用从网络上抓取的大量数据进行训练，其中大部分数据受版权保护，当公司披露这些数据来源时，会面临法律挑战。

据《时代》杂志报道，奥特曼表示，人们担心的是，根据欧盟立法，ChatGPT等系统将被指定为“高风险”系统，这意味着OpenAI必须满足许多安全和透明度要求。“要么我们能够解决这些需求，要么不能。”他说， “这是对潜在技术的限制。”

“我们会努力遵守，但如果我们不能遵守，我们将停止（在欧洲）运营。”奥特曼告诉《金融时报》。

不过据路透社报道，奥特曼26日又表示，OpenAI没有离开欧洲的计划。

OpenAI最近一直在极力展现“负责任”态度，继其领导层当地时间5月22日联合撰文呼吁建立类似国际原子能机构的AI监管机构后，该公司25日又在官方博客上发文称，正在启动一项计划，提供10笔10万美元的赠款，以建立一个民主程序来决定AI系统应该“在法律规定的范围内”遵循哪些规则。具体来说，OpenAI正在寻求资助个人、团队和组织，以开发“民主进程”的概念验证，回答有关AI护栏的问题。

换句话说，OpenAI提出“众包”AI监管：希望有一个“具有广泛代表性”的人群交换意见，参与“深思熟虑”的讨论，并最终通过透明的方式决定结果。

谷歌与微软高管分别见欧美议员

奥特曼访问欧洲期间，谷歌首席执行官皮查伊也访问了欧洲各国首都，试图在政策制定者确定监管AI的“护栏”时影响他们。

皮查伊在布鲁塞尔与多位官员会晤，包括负责人工智能法案的欧洲议会议员布兰多·贝尼菲（Brando Benifei）和德拉戈斯·图多拉奇（Dragoş Tudorache）。出席这些会议的3名人士透露，皮查伊强调，需要在对技术进行适当监管时不会扼杀创新。

皮查伊还与负责监督人工智能法案的欧盟内部市场专员、数字政策负责人蒂埃里·布雷顿（Thierry Breton）会晤。布雷顿告诉《金融时报》，他们讨论了引入“人工智能公约”——一套非正式的指导方针，供人工智能公司在正式规则生效之前遵守，因为“在人工智能竞赛中建立一个安全的网络环境，没有时间可以浪费了”。

5月19日，谷歌全球事务总裁肯特·沃克（Kent Walker）在谷歌官方博客上发表了一篇文章，题为《负责任的人工智能进展的政策议程：机会、责任、安全》，鼓励政府关注三个关键领域——通过最大化AI的经济承诺来释放机会；在降低滥用风险的同时促进责任；加强全球安全，同时防止恶意行为者利用这项技术。

微软总裁布拉德·史密斯认为，在人工智能监管方面，科技行业“可能比华盛顿目前有更具体的想法”。

微软总裁史密斯25日对来自两党的6名议员发表了演讲，敦促华盛顿通过关于AI政策的五项新建议。其中，微软希望白宫敦促广泛采用国家标准与技术研究所（National Institute of Standards and Technology）今年早些时候发布的“人工智能风险管理框架（AI Risk Management Framework）”，希望立法者要求控制电网和水系统等关键基础设施的AI工具配备“安全制动器”，呼吁决策者促进人工智能透明度，并确保学术和非营利研究人员能够访问先进的计算基础设施。微软还希望与政府在公私伙伴关系中合作，具体来说，希望公共部门使用AI作为应对“不可避免的社会挑战”的工具。他还提到了微软使用AI帮助记录乌克兰战争中遭受的破坏。

史密斯认为，在人工智能监管方面，科技行业“可能比华盛顿目前有更具体的想法”。

斯坦福大学“以人为本的人工智能研究所”政策主任罗素·瓦尔德（Russell Wald）最近表示，他担心一些决策者，特别是华盛顿的决策者过于关注科技行业的AI治理提案。他在上周的参议院听证会期间说：“有点令人失望的是……行业领域是纯粹的焦点。”瓦尔德建议，学术界、民间社会和政府官员都应该在制定AI政策方面发挥比目前更大的作用。