担忧AI失控？拜登政府拟审查ChatGPT，全球监管动态引热议…

🌟🚀关注未来趋势！💡 AI监管话题热度飙升！🔍 《华尔街日报》4月11日透露，拜登政府正深入探讨如何应对生成式AI可能带来的潜在风险，尤其是其在歧视和信息传播方面的挑战。🔥ChatGPT等热门AI工具已引发广泛担忧，审查机制的制定刻不容缓。🤔 随着科技的进步，确保公正与安全并存是全球议题。💡 保持警觉，迎接智慧与责任的交汇点！🌐

作为潜在监管的第一步，美国商务部已经于美东时间4月11日（周二）正式公开征求意见，就其所谓的问责措施发表意见，包括有潜在风险的新人工智能模型在发布前是否应该通过认证程序。

《每日经济新闻》记者注意到，北京时间周二，中国的监管机构已经对生成式AI技术进行过一系列的表态。其中提到，提供生成式AI产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。

🌟警惕！前腾讯安全专家李铁军深度解析AI潜在风险：🔍马斯克等担忧AI的自主进化，这是一场无声的科技革命，它可能超越人为控制，成为潜在的超级力量。🚀然而，这样的飞跃也可能带来无法预估的后果，人类与AI的力量对比将面临严峻考验。🌍面对这一挑战，我们必须审慎对待，确保技术的发展既能创新引领，又能在伦理道德的约束下稳健前行。🌟#AI威胁# #科技伦理

担忧生成式AI风险，美国拟设置“护栏”

👩‍💻🚀美国监管动态：随着人工智能技术的迅猛发展，新兴AI工具已成为行业焦点，它们以惊人的速度重塑内容创作领域。据统计，微软的ChatGPT在短短几个月内展现出前所未有的用户增长率，其势头堪比消费类应用历史上的里程碑。🔍🌈这些创新工具不仅改变了文字生成的速度，还拓展了视觉和音频内容的制作，引领了一场数字化革命。尽管具体数据保密，但可以预见，AI驱动的内容创新将继续塑造未来市场格局。🏆💻

美国国家电信和信息管理局（下称NTIA，美国商务部发布征求意见的机构）局长Alan Davidson表示，“看到这些工具在相对早期就能发挥（如此强大的）作用，真是令人惊讶。我们知道，我们需要设置一些‘护栏’，以确保这些工具被负责任地使用。”

打开凤凰新闻，查看更多高清图片

《华尔街日报》报道截图

Davidson表示，上述征求意见将被用来帮助制定给美国政策制定者关于如何对待人工智能的建议。他还补充称，NTIA的法律任务涉及向总统提供科技政策建议，而不是编写或执行法规。

🌟行业与政府专家正对人工智能可能带来的潜在风险发出警报🌍，其中犯罪和虚假信息传播是首要顾虑。美国参议员Michael Bennet本月已就这一议题致信知名AI企业，关注在公开测试中，聊天机器人如何向假冒青少年提供具有危害性的建议，对孩子安全的忧虑不言而喻🛡️。

康涅狄格州民主党参议员Richard Blumenthal在接受媒体采访时也表示，“关于人工智能可能带来的爆炸性的好处和坏处，人们正在进行非常活跃的讨论。对国会来说，这是一个终极挑战——技术性高度复杂、事关重大，非常紧迫。”

《每日经济新闻》记者注意到，包括特斯拉CEO马斯克和“人工智能教父”Geoffrey Hinton在内的科技领袖最近也开始呼吁暂停训练比GPT-4更强大的AI系统。GPT-4是OpenAI大约在一个月前发布的聊天机器人版本。这些科技大佬警告称，OpenAI与Alphabet旗下谷歌等竞争对手之间正在展开AI“军备竞赛”，但并未对潜在风险进行充分的管理和规划。

图片来源：futureofoffice

🌟了解最新科技动态吗？🔍拜登总统上周在白宫与顶尖科学家们深入探讨了一项备受关注的话题——生成式AI的潜在风险。💡他谨慎地表示，这项创新科技虽有潜力，但其未来发展的影响仍需仔细审视。🤔对于许多人来说，这无疑为科技创新与社会安全之间的平衡带来了新的挑战。💻让我们一起期待科学如何明智地引导这个未来。🌟#拜登讨论 #生成式AI #科技与安全

🌟💡【智能防护升级】Microsoft与Google联手，引领AI系统安全防线！🚀👀 业界巨头携手，打造未来科技守护者！微软和谷歌的精英团队已正式加入人工智能委员会，致力于确保系统的无虞运行。🛡️🤖 谈判桌上，他们正以创新思维，为AI设置智能“防火墙”——通过严谨编程策略，预防聊天机器人触碰潜在风险。🚫🌈 不再让有害问题轻易溜出，每一款AI产品都将经历严格的安全审查，为用户打造一个安全、可信的数字世界。🌍💡 随着技术的进步，安全防护的步伐也将持续加速，让我们期待这个委员会带来的更强大安全保障！🌟记得关注最新动态，一起见证科技如何守护我们的生活！💪

中国监管机构已提前出手

前腾讯安全技术中心专家李铁军在接受《每日经济新闻》记者采访时指出，“目前各方面对（生成式）人工智能的担忧比较多，美国方面以马斯克为代表。这些人担心AI的自我生长，可能突破人类限制。如果真的突破，或许人类干不过AI，后果难以评估。我也看了有关讨论，一部分科学家确实有这方面的担忧，已经感觉像是《黑客帝国》里描述的东西了。”

“美国政客的讨论就是充分利用新技术确保竞争优势，但安全方面的担忧确实是很重要的一方面，美国网络安全与基础设施安全局官员上周还在一个论坛上对生成式人工智能的安全影响表示了严重关切，警告说需要采取立法行动来规范其使用。”李铁军对记者补充道。

每经记者还注意到，就在美国政府周二就生成式AI的潜在监管公开征求意见之前，中国的监管机构已经对该技术进行过一系列的表态。

北京时间4月11日（周二），国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。其中提到，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

图片来源：国家网信办

4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。

倡议称，ChatGPT 等工具近期引起了各方广泛关注，已有部分企业员工使用 ChatGPT 等工具开展工作。但是，此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全，提升支付清算行业的数据安全管理水平，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定，中国支付清算协会向行业发出倡议。

图片来源：中国支付清算协会

除了中国和美国外，4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT。

当地时间4月4日，加拿大隐私专员办公室（OPC）宣布对聊天机器人ChatGPT开发公司OpenAI展开调查，该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。

目前OPC没有透露更多的调查细节。该机构的一位隐私专员表示，人工智能技术及其对隐私的影响是OPC的优先事项，“我们需要跟上快速发展的技术并保持领先，这是我作为隐私专员重点关注的领域之一。”

这是继意大利之后又一个对ChatGPT“出手”的国家监管机构。此外，法国、爱尔兰、西班牙等欧洲国家也开始考虑对人工智能聊天机器人采取更严格的监管。

OpenAI最新回应：安全监管是必要的

在监管声四起的当下，一些人工智能企业也主动欢迎并寻求制定新的监管规定。例如，OpenAI最近还在一篇博客文章中表示，“我们认为，强大的人工智能系统应该接受严格的安全评估。需要监管来确保这些做法得到采用，我们积极与各国政府接触，探讨可能采取的最佳监管形式。”

另据Axios，美东时间本周三，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司将开会讨论制定AI技术开发使用标准，讨论如何以最负责任的态度继续开发AI。

Axios报道截图

众议院监督委员会技术小组主席、南卡罗莱州共和党众议院Nancy Mace上个月在一场关于人工智能的听证会上发表讲话时，讨论了人工智能的风险和好处。然后她表示，她的开庭陈词所有内容，都是用ChatGPT写的。Mace问在场的人士，人工智能是否发展得太快了：“我们有能力开发出对人类生存构成威胁的人工智能吗？还是说这只是科幻小说？”

谷歌前CEO Eric Schmidt此前则表示，美国国会应该把重点放在促进人才发展和创新上。

《每日经济新闻》记者还注意到，由于没有专门针对人工智能的联邦法律，一些政府机构已经使用了其他法律权利。例如，金融部门监管机构已经调查了贷款机构如何使用人工智能来承销贷款，目的是防止对少数群体的歧视。美国司法部反垄断部门则表示，其正在检测该领域的竞争，而美国联邦贸易委员会（FTC）则警告企业，它们可能会因对人工智能产品做出虚假或未经证实的声明而面临法律后果。