生成式人工智能：边界与规范

近年来，随着生成式人工智能（AI）技术的日益普及，有关其可能被用于歧视或传播有害信息的担忧也逐渐加剧。为此，我国政府已开始探讨是否需要对一些知名的人工智能工具，如ChatGPT，进行审查。据《华尔街日报》于4月11日的报道显示，这一动议已经得到了拜登政府的关注。

作为潜在监管的第一步，美国商务部已经于美东时间4月11日（周二）正式公开征求意见，就其所谓的问责措施发表意见，包括有潜在风险的新人工智能模型在发布前是否应该通过认证程序。

《每日经济新闻》记者注意到，北京时间周二，中国的监管机构已经对生成式AI技术进行过一系列的表态。其中提到，提供生成式AI产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。

前腾讯安全技术中心专家李铁军在最近的采访中强调了当前人们对（生成式）AI的担忧，特别是在美国，以马斯克为代表的观点引发了许多关注。他们主要担心的是AI的自我成长，可能会超越人类的控制。一旦这种情况发生，可能会导致人类无法与AI竞争，其后果将难以预测。

担忧生成式AI风险，美国拟设置“护栏”

在美国政府采取一系列监管措施的背景下，近期新兴的人工智能工具得到了广泛应用，这些工具能够助其在短时间内生成大量类似于人类生产的文字、图片和视频内容。据一些分析师预测，由微软支持的一款名为ChatGPT的聊天机器人可能会超过历史上任何一个消费类应用程序的用户增长速度。

美国国家电信和信息管理局（下称NTIA，美国商务部发布征求意见的机构）局长Alan Davidson表示，“看到这些工具在相对早期就能发挥（如此强大的）作用，真是令人惊讶。我们知道，我们需要设置一些‘护栏’，以确保这些工具被负责任地使用。”

打开凤凰新闻，查看更多高清图片

《华尔街日报》报道截图

Davidson表示，上述征求意见将被用来帮助制定给美国政策制定者关于如何对待人工智能的建议。他还补充称，NTIA的法律任务涉及向总统提供科技政策建议，而不是编写或执行法规。

据报道，政府和行业专家对人工智能可能带来的潜在风险表达了担忧，其中包括利用这项技术进行犯罪活动或传播虚假信息。上个月，美国参议员Michael Bennet曾致信多家人工智能公司，旨在了解在公共试验中，聊天机器人为冒充年轻用户提供有害建议的现象，对此，他们对儿童安全问题特别关注。

康涅狄格州民主党参议员Richard Blumenthal在接受媒体采访时也表示，“关于人工智能可能带来的爆炸性的好处和坏处，人们正在进行非常活跃的讨论。对国会来说，这是一个终极挑战——技术性高度复杂、事关重大，非常紧迫。”

《每日经济新闻》记者注意到，包括特斯拉CEO马斯克和“人工智能教父”Geoffrey Hinton在内的科技领袖最近也开始呼吁暂停训练比GPT-4更强大的AI系统。GPT-4是OpenAI大约在一个月前发布的聊天机器人版本。这些科技大佬警告称，OpenAI与Alphabet旗下谷歌等竞争对手之间正在展开AI“军备竞赛”，但并未对潜在风险进行充分的管理和规划。

图片来源：futureofoffice

据报道，在上周的白宫会议中，拜登总统与一个科学家顾问委员会就人工智能（AI）的发展进行了探讨。当有记者询问生成式AI技术是否存在潜在风险时，拜登总统谨慎地回答：“目前来看，存在一定的风险，但我们还需要进一步观察。”

据消息透露，该委员会成员包括微软和谷歌的代表。他们与致力于开发人工智能系统的公司进行洽谈，以期加强安全防护措施。在这些措施中，他们正通过编程技术来避免聊天机器人在回答某些有害问题时产生负面影响，从而不断优化并提升安全性能。

中国监管机构已提前出手

前腾讯安全技术中心专家李铁军在接受《每日经济新闻》记者采访时表示，当前关于生成式人工智能的担忧较为普遍，尤其是在美国，以马斯克为代表的担忧者认为AI可能会超越人类的限制并实现自我生长。这种情况下，如果AI真情实意地突破人类约束，后果将难以预测。事实上，部分科学家也对此表示担忧，他们认为这种情况与《黑客帝国》中描绘的情景类似。

“美国政客的讨论就是充分利用新技术确保竞争优势，但安全方面的担忧确实是很重要的一方面，美国网络安全与基础设施安全局官员上周还在一个论坛上对生成式人工智能的安全影响表示了严重关切，警告说需要采取立法行动来规范其使用。”李铁军对记者补充道。

我们有理由相信，在美国政府即将就生成式AI的潜在监管展开公开征求意见之际，我国的相关监管部门已对此项技术做出了一系列重要声明。

北京时间4月11日（周二），国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。其中提到，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

图片来源：国家网信办

4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。

近期，ChatGPT 等智能工具受到了广泛的关注，并已有部分企业员工开始使用这些工具进行日常工作。然而，随着这些工具的应用，一些跨境数据泄露等风险也开始浮出水面。为了有效管理这些风险，保护客户隐私以及确保数据安全，我国支付清算行业协会依据《中华人民共和国网络安全法》和《中华人民共和国数据安全法》等相关法律法规，向整个行业发出了倡议。

图片来源：中国支付清算协会

除了中国和美国外，4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT。

当地时间4月4日，加拿大隐私专员办公室（OPC）宣布对聊天机器人ChatGPT开发公司OpenAI展开调查，该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。

目前OPC没有透露更多的调查细节。该机构的一位隐私专员表示，人工智能技术及其对隐私的影响是OPC的优先事项，“我们需要跟上快速发展的技术并保持领先，这是我作为隐私专员重点关注的领域之一。”

这是继意大利之后又一个对ChatGPT“出手”的国家监管机构。此外，法国、爱尔兰、西班牙等欧洲国家也开始考虑对人工智能聊天机器人采取更严格的监管。

OpenAI最新回应：安全监管是必要的

在监管声四起的当下，一些人工智能企业也主动欢迎并寻求制定新的监管规定。例如，OpenAI最近还在一篇博客文章中表示，“我们认为，强大的人工智能系统应该接受严格的安全评估。需要监管来确保这些做法得到采用，我们积极与各国政府接触，探讨可能采取的最佳监管形式。”

另据Axios，美东时间本周三，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司将开会讨论制定AI技术开发使用标准，讨论如何以最负责任的态度继续开发AI。

Axios报道截图

众议院监督委员会技术小组主席、南卡罗莱州共和党众议院Nancy Mace上个月在一场关于人工智能的听证会上发表讲话时，讨论了人工智能的风险和好处。然后她表示，她的开庭陈词所有内容，都是用ChatGPT写的。Mace问在场的人士，人工智能是否发展得太快了：“我们有能力开发出对人类生存构成威胁的人工智能吗？还是说这只是科幻小说？”

谷歌前CEO Eric Schmidt此前则表示，美国国会应该把重点放在促进人才发展和创新上。

《每日经济新闻》记者还注意到，由于没有专门针对人工智能的联邦法律，一些政府机构已经使用了其他法律权利。例如，金融部门监管机构已经调查了贷款机构如何使用人工智能来承销贷款，目的是防止对少数群体的歧视。美国司法部反垄断部门则表示，其正在检测该领域的竞争，而美国联邦贸易委员会（FTC）则警告企业，它们可能会因对人工智能产品做出虚假或未经证实的声明而面临法律后果。