探索未知！微软电子表格藏着ChatGPT前身的超能力，GPT-2压缩版等你体验！
文章主题：
🎉🚀科技新星崛起！🔍AI语言巨变，ChatGPT引领潮流，但你知道它的前身GPT-2吗？💡由开发者Ishan Anand匠心打造，这位Excel高手将GPT-2的智慧压缩于一Excel表格中，让复杂科技变得触手可及。👩💻无需担心版权或联系方式，这份公开资源旨在启发大众，揭秘LLMs的工作原理，让你轻松理解AI语言的力量。🌍免费获取，立即探索，开启你的科技知识之旅！🚀🎉
电子表格的力量让每个人，无论技术背景如何，都能轻松探索并实践Transformer模型的工作原理，无需任何门槛。这背后的秘密，可追溯至2017年里程碑式论文《Attention is All You Need》，它开启了Transformer架构，如今已是LLMs的核心所在。🚀👩💻🌍
🌟【本地AI助手】🚀 Anand精巧地将GPT-2封装成_XLSB_格式，专为最新版Excel定制，无需网络就能高效运行！🎉但这并非简单的云交互，它完全独立，拒绝任何API调用，确保隐私安全。💡虽然内置强大的AI语言模型，却不像ChatGPT那般直接对话——用户得在相邻单元格里输入提示词，瞬间见证预测的智慧火花。🔥每个预测都是基于上下文逻辑的精确推断，无论是代码段的续写，还是诗意的句子扩展，都能流畅应对。🚀在不同工作表间探索，你不仅能体验到AI的力量，还能洞察其决策过程。👀无需担心云服务带来的潜在风险，Anand让你与AI互动，尽享本地化的智能乐趣！💪
“
Spreadsheets-are-all-you-need”只支持10个输入的tokens。与GPT-4 Turbo的128000-token上下文窗口相比，这非常有限，但足以展示一些LLMs工作原理的基本原则，Anand在YouTube上免费上传的一系列教学视频中有详细说明。
🎓👨💻探索Transformer奥秘：Anand的AI好奇心之旅🔍在与科技权威Ars Technica的一席对话中，技术爱好者Anand分享了他投身Transformer研究背后的初衷——对现代AI奇迹的好奇与求知欲。他说：“当今AI已不再是课本上的旧概念，它以惊人的速度进化，我深感有必要从零开始，建立起一个清晰的模型来解读其核心运作机制。”最初，他计划用JavaScript重构GPT-2这颗人工智能界的璀璨明珠，然而，他对电子表格的热爱（📊）让他转向了数据科学的世界。在这个过程中，Jeremy Howard的fast.ai课程和Andrej Karpathy在YouTube上的AI教学视频成为了他的灵感之源。这些资源不仅提供了实践的指导，也点燃了他的热情，使他得以沉浸其中，探索人工智能的深层逻辑。
🎓观看Karpathy的视频，Anand深刻认识到GPT犹如一张庞大的计算矩阵（📊），这与他熟悉的Excel概念不谋而合。Jeremy通过巧妙地运用电子表格来简化课程内容，启发了他对GPT的理解。这样的联想让他突发奇想——为何不将整个GPT-2模型嵌入一个电子表格中呢？这是一种创新的思维表达方式，也是知识组织的新可能。🌟
🌟电子表格中的LLM挑战揭秘🔍：虽然GPT-2的强大算法基础是数学运算，这在Excel中简直是如鱼得水，但其核心的`(tokenization)`过程却带来了一丝复杂。毕竟，这涉及到文本处理，而非纯数学逻辑。相比之下，在传统编程环境中可能稍显简单。👩💻当遇到难题时，ChatGPT这位AI后辈适时伸出援手——它确实能提供宝贵的解决方案和算法解析，但请注意，它的智慧也可能带来误导。因此，验证每个步骤至关重要，就像反复核对的严谨态度一样。📚欲深入了解如何巧妙运用LLM在Excel中，探索无尽可能，让我们一起深入探讨，让数据说话！👩💻💼
这一切之所以可能，是因为OpenAI在2019年11月公开了GPT-2的神经网络权重和源代码。看到这个特定的模型被整合到一个教育电子表格中尤其有趣，因为当它在2019年2月被宣布时，OpenAI不敢发布它——公司担心GPT-2可能被“用于大规模生成欺骗性、有偏见或攻击性的语言”。
不过，该公司仍然在2019年11月发布了完整的GPT-2模型（包括运行它所需的权重文件），但该公司的下一个主要模型GPT-3，于2020年推出，至今没有开放权重的发布。GPT-3的一个变体后来形成了ChatGPT初始版本的基础，于2022年推出。
Anand的电子表格实现运行的是“GPT-2 Small”，这与完整的15亿参数版本的GPT-2相比，只有1.24亿参数。与GPT-3的1750亿参数（甚至更大的模型）相比，如果今天发布，它可能不会被称作一个“大型”语言模型。但在2019年，GPT-2被认为是最先进的。
你可以在GitHub上下载充满GPT-2的电子表格，但请注意，它大约有1.2GB。由于它的复杂性，Anand说它经常会锁定或崩溃Excel，特别是在Mac上；他建议在Windows上运行该表格。“强烈建议在Excel中使用手动计算模式，并使用Windows版本的Excel（无论是在Windows目录还是通过在Mac上的Parallels）。”他在网站上写道。
而在你问之前，目前Google表格还不在考虑范围内：“这个项目实际上是在Google表格上开始的，但完整的124M模型太大了，所以转到了Excel。”Anand写道。“我还在探索如何在Google表格中使用此功能，但它不太可能像在Excel中那样合成一个文件。”
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
