ChatGPT背后的力量：人工智能语言模型的崛起与挑战？
文章主题：
最近Chatgpt网站停止了服务，而且贴了一首它自己写的诗歌。
诗歌大意是：最近需求太强烈/所以我吃不消了/所有用户都必须等待/服务器正在扩容和重启的路上/耐心是唯一的解药/相信我们正在拼命干活。图源：openai过去三个月内，超过一亿人体验了这个对话机器人，所有媒介都在讨论“它可以做什么。”，似乎明天就可以取代人类。然而，ChatGPT会很快让你失业吗？搜信息，写文章（从情书到毕业论文），翻译，写诗，写程序。虽然它看上去什么都能做，但真正能取之即用的对话产出并不多。先来看看到底什么是ChatGPT。
全球头部互联网服务到达一百万用户速度对比。图源：UBSChatGPT 是Openai公司开发的，一种专注于对话生成的语言模型。它能够根据用户的文本输入，产生相应的智能回答，回答可以很短，也可以很长。其中GPT是Generative Pre-trained Transformer（生成型预训练变换模型）的缩写。什么是“对话生成的语言模型”？可以理解为：ChatGPT通过学习大量现成文本和对话集合（例如Wiki），就能够预测下一个字应该是什么。
《纽约时报》称其为“有史以来向公众发布的最好的人工智能聊天机器人”。图源：nytimes.com
🌟通过深度学习与海量文本训练，他无需主动”理解”对话，而是能高效地预测下文每个词的高概率走向，以此流畅地与您互动交流。就像一部精准运转的语言引擎，只需输入信息，就能迅速生成回应。🚀
所以ChatGPT背后的“生成型预训练变换模型”和其它竞争的语言模型一样，是一种“通用人工智能。”，也就是可以学习一切文本来产生任何一种新的文本（语言）。
人类的智能大部分基于语言的，这种通用语言模型的开发，站在人工智能技术的中心点上。
热衷人工智能的马斯克曾经是OpenAI公司的股东，但后来由于和CEO奥特曼的技术路线的不一致离开了。图源：wikipedia.org利用开放的聊天平台，使得ChatGPT能够不断对话和学习新的对话，这样就造成了一个结果：就是数据量会迅速放大，而且会不断对原来的模型形成自动修正。这就大大加速了学习速度。对语言学习模型来讲，数据学习效率是极重要的。每一代GPT模型的参数量都爆炸式增长，堪称“越大越好”。2019年2月发布的GPT-2参数量为15亿，而2020年5月的GPT-3，参数量达到了1750亿。
由于很多特别的策略，每一代GPT模型的参数量都爆炸式增长。2019年2月发布的GPT-2参数量为15亿，而2020年5月的GPT-3，参数量达到了1750亿。图源：《陈巍谈芯》
这样使得ChatGPT迅速成为人工智能语言模型领域的当红炸子鸡。
✨ChatGPT的惊人进步重塑了人们对ChatBot的认知，它那无缝的上下文交互和潜在的编程技能，让曾经的‘智障’形象一扫而空，转变为如今的趣味与智慧并存。🚀这一技术突破不仅颠覆了大众对AI聊天机器人的刻板印象，更开启了人机对话的新篇章。💻如果你想深入了解，ChatGPT无疑是探索这个领域最闪耀的明星。🌟
ChatGPT的主要特点。OpenAI使用 RLHF（Reinforcement Learning from Human Feedbac，人类反馈强化学习） 技术对 ChatGPT 进行了训练，且加入了更多人工监督进行微调。图源：《陈巍谈芯》但ChatGPT技术仍然有一些局限性。那么它的缺点是什么？1）ChatGPT在其未经大量语料训练的领域缺乏“人类常识”和引申能力，甚至会一本正经的“胡说八道”。例如让ChatGPT做一道小学应用题，尽管它可以写出一长串计算过程，但最后答案却是错误的。
🌟ChatGPT虽强大，但仍有局限💡它在处理深度和专业性要求高的内容时会遇到挑战。特别是在金融、科学或医疗等领域，那些需要深厚专业知识背景的复杂问题，如果没有充足的训练数据作为“燃料”，ChatGPT的回应可能不尽如人意。🚀对于这类专业人士的语言结构，它可能无法像专家那样深入解析和生成高质量的答案。
人工智能的最大问题可能是1.当前只有一小部分人才能使用得起人工智能。2.当人工智能开始不需要人类的控制就能自动学习时，人类离末日也就不远了。图源：wikipedia.org3）开放式的ChatGPT需要惊人的算力（芯片）来支持其训练和部署。这些服务器的成本是普通用户无法承受的，任何企业也都难以靠自身资金承受这一成本。因此对于普通大众来说，还需等待更轻量型的模型或更高性价比的算力平台。4）ChatGPT还没法在线的把新知识纳入其中。一是因为出现一些新知识就去重新在后台预训练GPT模型是不现实的，无论是训练时间或训练成本。新知识在线训练的模式，似乎可行且语料成本相对较低，但是很容易由于新数据的引入而导致ChatGPT对原有知识的灾难性遗忘。5）ChatGPT仍然是黑盒模型。目前还未能对ChatGPT的内在算法逻辑进行分解，因此并不能保证ChatGPT不会产生攻击甚至伤害用户的表述。
NLP技术的应用领域。本质上，作为ChatGPT基础的GPT-3或GPT-3.5 是一个超大的统计语言模型或顺序文本预测模型（NLP)。图源：《陈巍谈芯》根据最近大量出现的ChatGPT对话案例。在翻译领域，ChatGPT目前的翻译水平比起一流的翻译软件仍有差距，在一些有很多专业词汇的领域更是这样。在搜索领域，ChatGPT目前只学习到2021年前的互联网知识，用他取代谷歌百度等搜索引擎当前还不现实的，通用人工智能的设计目的也完全不是取代搜索引擎。在写作领域，ChatGPT只能写作水平非常一般的通行文字，哪怕是情书这样的应用文，要写得真正适用于普罗大众的个性化需求也很困难，不要提一份用于正式商业场合的ppt了。
虽然无数科技杂志先后声明写作科技论文时可以使用chatGPT,但不能列其入作者名单，但背后重点是“人工智能无法承担法律责任。”图源：nature.com文科毕业论文可能是ChatGPT比较擅长的领域，毕竟大量高校并不需要太高水平的专业论文。在编程领域，有工程师贴出了要求ChatGPT写verilog代码（芯片设计代码）的对话，可以看出ChatGPT水平已经超出一些verilog初学者了。但是，普通人能像工程师一样准确描写自己的编程需求吗？
🌟🚀新技术引领潮流！硅谷涌现新兴力量——AI对话大师兴起 🚀💡在硅谷这片创新热土上，一项独特且前沿的职业正悄然崭露头角——ChatGPT等人工智能语言模型的对话专家。他们是技术原理的大师，用智慧与代码编织出令人惊叹的语言魔力。通过精心策划和优化的互动，ChatGPT等AI能展现出超乎想象的表现，为用户提供无与伦比的体验。👩💻👨💻这些IT工程师们不仅具备深厚的技术功底，更懂得如何巧妙地引导人工智能，使其在对话中流畅自然，仿佛拥有鲜活的灵魂。他们的存在，无疑为科技领域注入了新的活力和可能性，引领着一场人机交互的新革命。🌍🌐想要感受未来沟通的便捷与深度？关注这些AI对话大师，他们用技术编织的语言艺术，将颠覆你的认知边界！🌟
但是，这些工程师的薪水远贵于使用ChatGPT本身。
🌟技术革新浪潮来袭，普及之路并非一蹴而就🌟。降低成本，成为推动其广泛应用的关键因素🏆。时间的车轮滚滚向前，每一步都需要耐心与智慧💡。尤其是在这个瞬息万变的时代，如何让高昂的使用成本不再成为阻碍，是我们必须面对和解决的挑战🌈。
这并不是说，这个领域不会出现更大的创新，来让过程快几十倍。
8岁学会编程，16岁官宣出柜。人工智能实验室OpenAI及OpenAI首席执行官Sam Altman最近在全世界声名鹊起，他也被媒体称为ChatGPT之父。虽然OpenAI公司CEO声称从来没有思考过这一人工智能技术的商业模式，但2月2日消息，由OpenAI开发的人工智能聊天平台ChatGPT通过官方账号宣布了会员制服务将在几周后到来。
每月20美元，约合人民币134元。据悉，ChatGPT Plus服务已知的特权仅仅是“更快的响应速度”，具体独占功能还未曝光。图源：openai.com
参考文献：
陈巍：《ChatGPT发展历程、原理、技术架构详解和产业未来》（作者曾担任华为系自然语言处理（ NLP ）企业的首席科学家。）
作者：框舅 I 编辑：框舅
点点?，谢谢关注。点击下图或文末“阅读原文”购买2023年国家地理中文日历
伸出小手
点赞和“在看”吧
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
