奥特曼testimony:AIpermissionandsafetystandardsinthespotlight

学会提问 11个月前 lida

38 0 0

文章主题：OpenAI, AI system, permission, safety standard

据集微网报道，5月16日，《华尔街日报》发布了一则关于OpenAI首席执行官奥特曼（Sam Altman）的新闻。据悉，奥特曼已亲自赴美参加国会听证会，并在会议上强烈倡导制定针对先进人工智能（AI）系统的许可和安全标准。

我们明白人们对这项技术可能会带来的生活变化感到担忧。在16日首次亮相的奥特曼表示：“若是一项技术出现故障，其影响将会深远。”

他提倡创建一个机构，该机构负责发放和管理AI许可证，以确保所有AI系统均符合安全标准，同时对其进行监督与评估，并在必要时撤销许可证。

作为一家技术公司,OpenAI一直致力于确保其产品的安全性。为了达到这个目标,该公司的研究人员会预先测试其工具,并对它们进行不断的更新和改进。这样的做法可以保证产品的稳定性和可靠性,避免出现任何可能的风险。此外,OpenAI也认为,让公众广泛使用这些工具是有益的。通过广泛的使用,公众可以帮助公司更好地了解潜在的风险,并及时采取措施来减轻这些风险。这种合作可以让公司更加有效地管理风险,并确保其产品的安全性。因此,我们可以得出结论,OpenAI非常重视产品安全性,并且正在采取积极措施来确保其产品的稳定性。同时,广泛使用这些工具也有助于公司更好地了解和应对风险,从而提供更好的服务给用户。

《华尔街日报》指出，在16日的听证会上，公众对于ChatGPT等人工智能技术的迅速应用表达了广泛的忧虑。这一技术不仅可能改变政治、知识产权、新闻报道、军事行动等方面，而且还在美国的多样性与包容性问题上引发了关注。

ChatGPT-4是一个工具,而不是一个生物。奥特曼表示:“人们可以很好地控制这个工具。”这一点至关重要。虽然ChatGPT-4具有先进的人工智能技术,但它仍然只是一个程序,没有生命和自我意识。因此,将其视为生物是不准确的。相反,我们应该将其视为一种强大的工具,可以帮助人类更好地理解和利用自然语言处理技术。

例如，这项技术在就业市场上，“将完全自动化一些工作”，并将创造出会更好的新产品。”

在本周二的听证会上，议员们将迈出了解锁新型人工智能系统的关键一步。这一举动表明，尽管两党成员普遍认同实行联邦监管的必要性，但在国会层面却未能达成广泛的共识。

密苏里州的共和党参议员霍利（Josh Hawley）提出了一个值得深思的问题：“我们是否能在技术创新与伦理道德责任之间找到一种平衡？”

伊利诺伊州民主党参议员迪克·德宾（Dick Durbin）是几位将人工智能的崛起与社交媒体行业的早期发展相提并论的参议员之一。而当时，社交媒体并未受到国会的“强监管”。

“当涉及到网络平台时，政府倾向于让路，”他说。“当我看到网络平台和它们造成的危害时，我不确定我对结果是否满意……我不想再犯这样的错误。”

近期，奥特曼在美国首都华盛顿频频与议员见面。本月早些时候，他还在白宫与副总统哈里斯会谈。哈里斯告诉OpenAI、谷歌和微软等公司，他们有责任确保自己的产品是安全的。

在周二的听证会上，几名议员提出了对美国选举的担忧，担心人工智能系统可能被用来传播虚假信息或以其他方式操纵选民。

另一位证人、纽约大学名誉教授加里·马库斯（Gary Marcus）警告议员们，人工智能正在促进虚假信息的爆炸，使人们难以区分事实和虚构。他举例说，辩护律师在刑事审判中质疑证据。

“任何人都可以否认任何事情，”他说。“我们制造的机器就像瓷器商店里的公牛，强大、鲁莽、难以控制。”

奥特曼将人工智能工具与早期照片编辑软件进行了比较。他认为，人们“真的很快就认识到，图像可能会被PS。”

16日的听证会上，另一位行业证人、IBM首席隐私和信任官克里斯蒂娜•蒙哥马利（Christina Montgomery）呼吁议员在监管人工智能的具体用途时要精确，而不是监管技术本身。

她在书面证词中说:“一个可以分享餐馆推荐或起草电子邮件的聊天机器人，对社会的影响与一个支持信贷、住房或就业决策的系统不同。”