ChatGPT为何爆红？OpenAI如何追赶并完善这个意外的成功

ChatGPT前沿资讯 2年前 (2023) lida

69 0 0

🎉 ChatGPT的横空出世，在2022年11月末并未引起广泛关注，然而其爆发性的网络热度让所有人眼前一亮。随后，OpenAI迅速行动，紧随其后，将这次现象视为提升自身技术的绝佳时机。📚🔥他们积极应对，以ChatGPT为引擎，推动模型迭代与优化，展现出强大的适应力和创新精神。

🌟【OpenAI揭秘】MIT Tech Review独家访谈，揭秘「非凡胜利」背后的低调力量💡。🎉在周五的深度对话中，这个科技界的翘楚并未过多炫耀其最新成果，反而以超凡的谦逊态度，展现其对技术探索的执着与尊重。🏆听听他们如何解读这次里程碑式的突破，感受他们的创新精神如何驱动未来。👇链接直达，不容错过！🔗

🌟Sandhini Agarwal, a seasoned AI policy expert at OpenAI, shares that this internal preview is an advanced iteration of their 2-year-old tech, aiming to refine and strengthen its capabilities. It’s also an effort to fill gaps through user-centric feedback, indicating a commitment to continuous improvement.♂️Liam Fedus, another key figure, refrains from overhyping it as a groundbreaking development, maintaining the company’s cautious approach. 🚀SEO optimized language for better search visibility: “Explore OpenAI’s advanced AI tech update – A two-year journey towards perfection, enhancing with user feedback and a focus on evolution而非 grandeur.”

🚀ChatGPT更新再加速！🔥研究人员正采用创新的”对抗性训练”手法，旨在确保这款人工智能语言模型不会轻易逃脱束缚，即防止其发生”越狱”行为。👩‍💻通过模拟复杂对话，多个聊天机器人相互挑战，一个充当对手，巧妙生成文本以突破常规限制，形成了一种动态的安全防护网。🛡️这种技术升级不仅增强了ChatGPT的稳定性和安全性，也为AI领域的互动学习带来了新的挑战与机遇。🔥SEO优化提示：使用”人工智能防越狱”、”对抗性训练ChatGPT”等关键词，提升搜索引擎可见度。

🌟【OpenAI引领人工智能浪潮】💡与微软的数十亿美元合作协议，标志着OpenAI正以创新科技赋能企业，提升业务效能。🌍贝恩咨询的加盟，则是全球化视野下的深度合作，旨在通过尖端AI技术驱动商业增长。ChatGPT的兴起，引发了全球范围内的“大模型”争夺战🔥，各家公司和投资者纷纷投身其中，一时间，人工智能领域热闹非凡。🚀无论是寻求技术突破的企业，还是瞄准市场机遇的投资者，都看到了OpenAI及其旗下ChatGPT背后的巨大潜力与价值。欲了解更多关于这场人工智能革命的深度解析，敬请关注我们后续的专业文章，我们将深入探讨并分享这些前沿动态。👇#OpenAI #大模型淘金热 #人工智能趋势

以下是采访的具体内容：

火的完全“出乎意料”，会话数据对ChatGPT产生了巨大的积极影响Jan Leike（负责提高系统安全性团队负责人）：老实说，这的确是势不可挡的的。我们很惊讶，也在一直在努力完善。John Schulman（联合创始人）：在发布后的几天里，我经常查看Twitter，在这段疯狂的时间里，充斥着ChatGPT截图。我希望它能获得更多的关注，但我没想到它能火到这种程度。Sandhini Agarwal（人工智能政策研究员）：我认为这对我们所有人来说绝对是一个惊喜，人们开始使用它。我们对这些模型进行了大量研究，以至于我们忘记了它们有时对外界来说是令人惊讶的。Liam Fedus（人工智能政策研究员）：我们很惊讶它的反响，以前有很多人尝试过使用聊天机器人，然而，我们的私人测试版让我们相信，我们拥有了人们可能真正喜欢的东西。Jan Leike：我想更好地理解是什么推动了这一切，是什么推动着病毒性传播。老实说，我们不知道。（团队的部分困惑来自于ChatGPT中的大多数技术都不是新的，ChatGPT是GPT-3.5的一个微调版本，GPT-3.5是OpenAI在聊天机器人发布前几个月研究出的大型语言模型。GPT-3.5本身是GPT-3的更新版本，于2020年发布。OpenAI还在2022年1月发布了GPT-3.5的微调版本，名为InstructGPT。但这些早期版本的技术都没有面向公众发布。）Liam Fedus：ChatGPT模型是从与InstructGPT相同的语言模型中进行微调得出的，我们添加了一些会话数据，并在训练过程进行了一些微调。我们并不想将其作为一项重大的突破来过度宣传，但事实证明，会话数据对ChatGPT产生了巨大的积极影响。通过标准基准测试评估原始技术能力，模型之间实际上没有实质性差异，但ChatGPT更易于访问和使用。“不要等到完美的时候再发布它”Sandhini Agarwal：当我们准备发布时，我们并不认为这个模型存在其他新的风险，GPT-3.5已经发布，我们知道它已经足够安全了。通过ChatGPT对人类偏好的训练，该模型可以自动学习拒绝行为，即拒绝大量请求。Jan Leike：我们确实为ChatGPT做了一些额外的“红队测试”（red teaming），OpenAI的每个人都试图打破这种模式。我们有外部团体在做同样的事情。我们也有一个早期访问计划，由信任的用户提供反馈。Sandhini Agarwal：我们确实发现它输出一些不必要的内容，所以作为一个“研究预览”这一意图是好的。John Schulman：你不能等到你的系统完美后再发布它。我们已经对早期版本进行了几个月的测试，测试人员对产品有较好的印象。我们最担心的是真实性，因为模型喜欢捏造东西。但是InstructGPT和其他大型语言模型已经存在，所以我们认为，只要ChatGPT在真实性和其他安全问题上优于那些模型，应该就是更好的选择。在发布之前，根据我们有限的评估，确认这些模型确实比其他模型更真实和安全，所以我们决定继续发布。很多问题浮现，“越狱”亟待解决Sandhini Agarwal：随着ChatGPT的病毒传播，许多问题真正浮出水面，这是我们希望尽快解决的关键问题。比如，ChatGPT非常擅长拒绝不好请求，但它也很容易编写提示，使它不会拒绝我们希望它拒绝的内容。Liam Fedus：看到用户提供的多样化和创造性的应用程序令人兴奋，但我们始终专注于需要改进的领域。我们认为，通过我们部署、获取反馈和改进的迭代过程，我们可以生产出最强大的技术。而随着技术的发展，新的问题出现不可避免。Sandhini Agarwal：我们最需要解决问题是“越狱”，当我们发现越狱情况时，我们会将其添加到训练和测试数据中。Jan Leike：每次有更好的模型时，我们都想将其发布并测试。我们非常乐观地认为，一些有针对性的对抗性训练可以大大改善越狱情况。目前还不清楚这些问题是否会完全消失，但我们认为，这起码可以让很多越狱变得更加困难。我认为，一旦你部署了这些系统，就很难真正预测它们的真正安全问题。因此，我们非常重视监控人们使用系统的目的，看看发生了什么，然后做出反应。但很难预测当一个系统触及现实世界时会发生的一切。Sandhini Agarwal：现在的风险肯定比六个月前高得多，但仍低于一年后的水平。显然，这些模型真正重要的一点是它们所使用的环境。与谷歌和微软想法一样，它们注定要成为搜索引擎。像搜索这样的大模型所需要的，与仅仅是一个好玩的聊天机器人的是不同的。我们需要弄清楚如何在所有这些不同的用途之间保持平衡，创造出在不同环境中对人们有用的东西。在这些环境中，期望的行为可能会发生变化，这增加了更多的压力。我们正在构建这些模型，以便将其转化为产品。ChatGPT是一种产品，现在我们有了API。我们正在构建这种通用技术，并需要确保它在所有方面都能正常工作，这是我们目前面临的关键挑战之一。