揭秘ChatGPT与AI未来！巨头科学家Sutskever带你探索AI起源与GPT-4神速提升的秘

ChatGPT与生活 2年前 (2023) lida

55 0 0

南方财经全媒体记者江月上海报道对话式机器人ChatGPT的诞生，令其开发商OpenAI成为家喻户晓的公司。3月22日，英伟达公司公布了其创始人兼CEO黄仁勋对话OpenAI联合创始人兼首席科学家Ilya Sutskever的视频。

🌟两位行业巨头，一位是引领算力革命的企业巨擘，另一位是人工智能领域的创新先驱，他们的深度交流无疑是知识与智慧的盛宴。👩‍💻他们以平易近人的语言，揭秘现代AI的源头故事，ChatGPT的工作机制如数家珍，更详尽地剖析了GPT-4的革新之处，让大众对这些科技巨头的秘密有了深入的理解。📚没有华丽的辞藻，只有精准的技术解析和诚挚的态度分享，他们的对话充满了务实与真诚，为AI世界点亮了一盏明灯。💡번역결과🌟 두 인물 모두, 대규모 계산 능력을 선도하는 기업가와 함께 AI의 혁신을 이끌어온 천재 과학자로, 그들의 대화는 실용적이고 진심이 담긴 지식의 향상적인 맛을 제공합니다. 🤝 대중과 동료들의 호기심에 직면하여, ChatGPT의 작동 원리와 GPT-4의 독특한 특징들을 모두 깊이 분석하며, AI의 근본 과정에 대해 풀어줍니다. 🔍 이러한 업계의 선두 인물은 비결을 드러내며, 대중에게 기술의 내면을 개방하는 동시에, 혁신의 진실을 밝히는 데 큰 역할을 합니다. 🌟

AI科学梦想萌芽

🎉 ChatGPT风靡全球，AI巨擘Σutskever热度飙升！🌟 俄裔才子，以色列成长背景，Σ的AI之路始于何处？💡 现代AI浪潮中，他是如何亲历其变，见证这科技奇迹的演变历程？🚀 想深入了解人工智能大师的思想与创新吗？让我们一起探索Σutskever的智慧世界！🌐 #Σutskever #AI先锋 #科技梦想

🌟人工智能巨浪催生兴趣🔥——Sutskever深陷于AI的影响力洪流中，他被其潜在的能量与变革性所吸引。而对于那永恒的哲学之谜——”意识的本质”，他的探索热情更是燃烧不熄。＠AI先锋论者

原文改写如下：🚀在2000年的曙光初照下，教育领域迎来了一次重大转变——人工智能的里程碑。那时候，人们普遍认为，知识的学习与创造是人类专属的能力，然而，计算机技术却还未能触及这一核心地带。正是在这个背景下，Sutskever敏锐地洞察到了机器学习的重要性，将其视为引领AI前进的关键引擎。

🏆【人工智能巨擘】🌟Sutskever的学术之路：智慧之光照亮神经网络之旅🔍💡2000年起，这位数学与计算机科学双料博士，Sutskever在多伦多大学的求学旅程中熠熠生辉，直至2012年，他以卓越成就完成了学位的积累。在这期间，他有幸师从人工智能领域的巨擘 Geoffrey Hinton，开启了他对神经网络的深度探索。🎓在他的学术生涯中，Sutskever不仅积累了扎实的数学和计算机科学基础，更在Hinton教授的引领下，对神经网络的研究产生了深远影响。他的智慧之光，照亮了这一复杂而前沿的技术领域，为人工智能的发展贡献了重要力量。SEO优化提示：神经网络、多伦多大学、Geoffrey Hinton、Sutskever、人工智能、学术之路

🌟神经网络，强大的自动化编程工具🌍，以学习为本能，平行运行于数字世界。💡通过数据编织，它们能创造出微型的智能机器，仿照大脑的智慧运作。＠Sutskever揭示了这个神奇的连接——编程与学习的无缝对接，就像用代码塑造小型的神经中枢。🧠

上述微小的成就支撑Sutskever继续前行，虽然还不知道这到底有什么用，但他相信前途是光明的。

接着，Sutskever意识到神经网络的训练规模必须扩大。当时业内的普遍做法是仅用50个神经网络单元，几百个已经算很大。在行业研究起步之初，一切都是那么简单、粗糙、迷茫，Sutskever在没有被优化过的CPU代码上跑模型。“我们做了一些零碎的工作，虽然很酷，但大家还是不知道究竟这会怎样推动技术进步。”Sutskever坦言了他当时的内心感受。

在2012年，Sutskever和Alex Krizhevsky、Jeff Hinton一起创造了AlexNet，这是一种CNN（卷积神经网络）架构，可以算是现代AI的爆炸起点。Sutskever称：“在（AlexNet）诞生之前的两年，我很清楚地意识到‘有监督学习’才是发展方向。”在寻求让数据变得又大又深的同时，他了解到了ImageNet数据集，令他解决了一个“痛点”难题。

有了神经网络和数据，AI的突破还缺少一样武器，那就是“算力”。“虽然一开始不明白GPU的用途，但很快我们就发现它有多么适合ImageNet数据集。”另外，搭档Alex Krizhevsky是如此擅长GPU编程，很快就做出卷积核函数去训练神经网络。

“很多人都走了其他路径，但ImageNet这个数据集是如此之好、只是如此之难，如果用好了它就能创造出非常惊人的结果。”Sutskever尽管如此强调数据集的难度，但他和Alex、Jeff Hinton之后创造出的AlexNet震惊了世界，打破了计算机视觉的记录。

从完全不知道有什么用、到找到眉目，Sutskever渡过了AI职业生涯中的初级阶段，也可以看到他从事这项科学时一路坚持的心路历程。

详解ChatGPT

在ChatGPT得到赞誉和认可的同时，也有人怀疑它是否只是一个简单的“文字概率预测机”；当GPT-4出现时，非专业人士也仅了解其训练参数又进行了可观的升级，但并不了解它的实际能力到底提升在哪儿。Sutskever也对上述问题进行了详细回答。

首先，关于ChatGPT的工作形式，Sutskever表示，大语言模型其实是在进行“对世界的映射”。

“看起来，我们只是在学习文本中的统计相关性。”Sutskever直面大众的质疑，但他解释说：“但实际上神经网络学习的是这些文本对世界的一个映射，世界在这些文本中得以呈现了。”

他称，神经网络正在学习从人的角度去看这个世界、看人类和社会，以及看人们的梦想、动机、交互。“学习一个压缩的、抽象的、可用的表述，这就是准确预测下一个词所要做的工作。”Sutskever称。

上述对世界进行“映射”的工作，要求还原度、清晰度，这是预训练阶段的工作。不过，仅此一步，神经网络还没有达到Sutskever理想的效果。

第二步是微调和强化学习，不仅由人类老师来教机器，也要由人类和AI合作的强化学习来教机器。“在这个环节里，我们不是在教它知识，而是在教它沟通，教它变成我们想要的样子。”Sutskever解释称。

第二阶段做得越好，这个神经网络就越有用、越可靠。

因此，ChatGPT其实不是一种猜测文字出现概率的游戏，而是通过机器学习大量文本去认识世界并在人类调教下学会输出的过程。

GPT-4的改善

谈及在3月14日刚刚发布的GPT-4，Sutskever也非常自豪于它的提升，称其“可靠性令人惊奇”。

他透露，GPT-4的训练其实开始于发布之前的约半年。随着对文本的理解不断增加，GPT-4预测下一个词的能力也变得更好。

可靠性正是很多人诟病前几代大语言模型的“痛点”。在和ChatGPT对话过程中，很多人发现它有时候会“一本正经地胡编乱造”。正因如此，要想将ChatGPT引入严肃工作，恐怕还不能通过安全那道关卡。

“可靠性是让这些模型更有用、或者说真正有用的最大阻碍。”Sutskever承认这一点。不过，他为它辩解称，可靠性已经得到大幅改善。

“它的数学能力变得强大，你可以看到它真的进行了推导，还转换了单位。它还会解释网络梗，你给它看一个梗，问它为什么这个是好笑的，它会告诉你原因而且还能说对。”Sutskever描述着GPT-4的效果。

除此以外，Sutskever也表示GPT-4已经可以处理图像，而多模态大模型对世界的理解是不一样的。他也强调，人类是视觉动物、世界也是非常视觉化的，因此给机器“喂”图像十分必要，不会局限在文本学习上。

与机器人对话令人期待，连黄仁勋也忍不住对Sutskever不断提要求。“你能不能教人工智能学习语气呢？因为你知道一个‘好’字可能会体现人们千变万化的真实含义。”黄仁勋开玩笑称。的确，一个充满热情的“好”是发自内心的赞美和欣赏，而一个冷冰冰的“好”有可能释放出相反的意思。对此，Sutskever表示会考虑用音频来改善未来的大模型。

“我从事这项工作已经很久，差不多整整20年了。GPT-4让我看到它不再渺小，而是更加重要，它还是那个神经网络，只是变得更强大。”Sutskever如是表示。