山姆·奥特曼：GPT-4和ChatGPT的崛起及人工智能的未来

打开凤凰新闻，查看更多高清图片

OpenAICEO山姆·奥特曼。人民视觉 资料图

在未来回溯这段历史时，GPT-4可能会被看作是一个初出茅庐、发展缓慢且故障频发的人工智能模型。然而，正如OpenAI首席执行官、ChatGPT的创始人山姆·奥特曼（Sam Altman）在接受科技主播、麻省理工学院人工智能研究员 Lex Fridman 的采访时所提到的，尽管如此，但这并不意味着它无法朝着一条充满希望的道路前进，这条道路可能需要数十年的时间才能实现。就像早期阶段的计算机，虽然 initially难以应对多种任务，但它们仍朝着一个具有巨大潜力的方向发展。

在与Fridman的两个半小时对话中，奥特曼展示了他在人工智能领域的广泛知识和深刻见解。他深入探讨了包括GPT-4、ChatGPT、人工智能安全、通用人工智能、马斯克、微软、政治偏见以及市场竞争等多个重要议题。

ChatGPT将成为人工智能的里程碑

当谈到人工智能的历史发展进程时，奥特曼强调，技术的进步并非呈线性模式，难以用“跨式”的跃进来衡量。然而，若非要选一个能载入史册的关键时刻，他则会毫不犹豫地选择ChatGPT的出现。

奥特曼认为，ChatGPT在提高可用性的领域取得了显著的突破，这主要得益于RLHF（基于人类反馈的强化学习）技术的成功应用。这一技术使得人工智能能够更好地理解和回答各类问题，甚至可以达到与人类相当的水平，同时训练数据的数量也能大幅度减少。奥特曼进一步解释道，举例来说，只需向人工智能提供两个答案，然后让人类进行选择，模型就能据此了解哪个答案更为优秀。此外，他还提到，GPT-4自去年夏天起就开始进行各种安全性的测试和调整，以满足用户的需求和期望，这在 aligning（即满足使用者期望）方面也取得了显著的进步。

值得注意的是，特斯拉首席执行官埃隆·马斯克曾公开表达对ChatGPT的高度评价。他视ChatGPT的伟大之处在于其展示了人工智能技术已经达到了前所未有的先进程度。尽管人工智能一直在快速发展，但一直缺乏一个能够让普通人接触和了解的平台。而ChatGPT恰好实现了这一目标。

近期，马斯克在社交媒体平台推特上频繁地对OpenAI展开攻势，引发了一场关于通用人工智能（AGI）安全性的热议。在一场访谈中，奥特曼表示：“我理解他的担忧，因为AGI的存在确实存在一定的风险。然而，我相信还有其他更深层次的动机 driving his actions。”尽管如此，奥特曼对马斯克的敬意毫不吝啬，“我非常钦佩埃隆，他是我敬仰的英雄之一。虽然他在推特上的言论有时过于直接，但我希望他能更加关注我们正在进行的这项艰苦工作。”

在一次谈话中，奥特曼不仅赞誉了马斯克，他还对微软公司的CEO萨提亚·纳德拉表示了敬意。奥特曼认为，萨提亚·纳德拉既是一个卓越的领导者，又是一位杰出的管理者。他具备远见卓识和长谋善略，同时还能与员工保持亲近，展现出同理心。这使得他在企业管理和领导力方面都表现得非常出色。

奥特曼即将开启全球用户之旅

谈论到人工智能，“偏见”与“安全”是不可避免的话题。

在与Fridman的交流过程中，奥特曼阐述了一种观点，即当人们主张将人工智能与人性的喜好和价值观念保持一致时，实际上是在暗示，我们需要按照“我自身”所接受的价值观和偏好来塑造人工智能。换言之，我们应该关注人工智能如何与我们个人的信仰和理念保持一致，而不是简单地追求与人类需求的契合度。

他强调说，“并不存在一套人类价值观，或者说一套人类文明的正确答案。将来我们只能就这些系统能做什么来达成一套非常宽泛的协议，在这些边界内，不同的国家可能会有不同的RLHF调整，个别用户也有非常不同的偏好。我们发布了一个叫做‘系统消息’的东西，不是RLHF，但可以让用户最大限度获得控制权，我认为这样的东西将非常重要。”

针对人工智能的偏见问题及其可能进一步引发的安全隐患，社会上已不乏批评。

奥特曼认为，“你总是能找到GPT犯错或者存在偏见的个案证据，但我们很希望，能够就系统的偏见或者细节问题做出一般性的陈述。”

对于“标题党”新闻以及各种抨击，奥特曼回应说，自己并没有感到压力，“我确定它会产生各种微妙的影响，但我没有感觉到很多。我们很乐意承认自己的错误。”

对于不少人将人工智能人格化，奥特曼则表现出了谨慎态度。

许多人倾向于用“她”或“他”这样的人称代词来称呼ChatGPT等人工智能模型，赋予其人格。奥特曼指出，人工智能只是工具，而不是一种生物，把工具当成生物，甚至将情绪投射到其身上是十分危险的。

奥特曼说道，他能够理解有人有这方面的需求，未来也会有公司开发出基于GPT-4的宠物类或者人物类陪伴产品，但他自己对这个方向并不感兴趣。

对于由开发团队自身可能带来的偏见，奥特曼也毫不避讳，“人工智能的群体思维（group think）泡沫随处可见，很难避免，”奥特曼表示，他将要进行一次为期一个月的全球用户之旅，去不同的城市与用户交流，去与身处不同背景的人沟通，“这种交流在互联网上是行不通的，亲自去到他们所去的酒吧、走过他们走过的城市，你可以学到很多东西，摆脱泡沫的束缚。”

奥特曼：不在乎竞争，担忧竞争对手走捷径

在OpenAI之后，包括谷歌在内的竞争对手纷纷加速推出人工智能产品，对于市场竞争，奥特曼认为，世界上将有多个人工智能，OpenAI不需要去和所有人竞争，“我认为世界上有多个通用人工智能（AGI）是好事，它们在构建方式、着重点等方面都各有差异。”

奥特曼直言，对于所谓“竞争带来的压力”毫无畏惧，“我们是一个奇怪的组织，我们擅长抵抗压力。我们很长一段时间以来一直被误解、被嘲笑。成立之初，也就是在2015年，我们宣布要研究通用人工智能，当时人们觉得我们疯了。我记得有一位知名的人工智能科学家，说我们谈论通用人工智能简直荒谬。”

对于竞争对手，奥特曼最大的担忧反而是安全问题。他认为，人工智能的参与者中不乏有人要走捷径，甚至为了获取无限的价值而导致负面事情的发生，这是一件值得担忧的事情。

此外，他还介绍说，OpenAI的组织结构非常特殊，是在非营利性组织的基础之上，增设了营利组织分支，以便为OpenAI提供足够的资金支持，在支付成本之后，其营收全都流入非营利组织之中，这样的组织架构很好地保障了OpenAI的顺利运行。