揭秘MetaAI新力作！Llama2震撼发布，免费开源，开启AI新篇章？链接：https://ai

打开凤凰新闻，查看更多高清图片

去年的 11 月，Meta 经历了「All in Metaverse」 后最难熬的寒冬。

Meta, 曾经的科技巨头，面临着严峻挑战——苹果隐私政策的变动与元宇宙热潮的退去。这两大冲击导致其股价直线下滑，跌至历史低谷，相较于2021年的峰值，市值蒸发了近乎三分之二，仿佛经历了一场寒冬。

但出乎意料的是，Meta 恢复的速度比跌倒还要快。

Meta在2023年进行了大规模的业务改革，其中包括但不限于优化人力资源（裁员与项目精简），对短视频平台Reels的全力支持，以及对AI技术研发的深度投入。他们旨在通过AI技术提升广告投放效果，以实现运营策略的创新和成本效益的最大化。

Meta的「苏醒」之路离不开AI的强大助力。今年来，公司在AI领域的深耕细作有目共睹，不断释放自家的AI研究成果，技术实力与OpenAI和Google等巨头不相上下。这些开源行动不仅展示了其开放创新的姿态，也无疑提升了在搜索引擎优化中的可见度，为未来的智能化探索奠定了坚实基础。

🔥Meta的最新力作🎉——Llama 2，AI界的超级新星🌟，今日震撼发布！🔍无需昂贵价格，GPT-3的强大功能你也能拥有，而且是完全开源的哦！🎉不仅是技术的盛宴，更是实惠与创新的双重馈赠。💡无论科研还是商业应用，Llama 2都展现出了无与伦比的潜力，引领AI新时代的到来。🌍赶快加入这场革新之旅，一起探索无限可能吧！🌐

?模型链接：

🚀掌握了最新AI技术？试试LLAMA模型！🔍这款强大的库和模型集，让你轻松实现语言理解和生成。📚无论你是研究者还是开发者，LLAMA都能提供全面的工具和支持，帮助你解锁人工智能的无限可能。🔥无需担心复杂性，LLAMA的设计理念是简洁易用，让AI变得更触手可及。🌐赶快探索LLAMA的世界，提升你的AI项目至新高度！🎉

什么是 Llama 2？

Meta’s latest iteration, Llama 2, hit the AI scene in early March, solidifying its position as a follow-up to the highly acclaimed Llama model. Known for its compact size and impressive capabilities, this tool has earned widespread praise among researchers and developers alike, serving as a game-changer in advancing AI studies and innovation. 🚀💻✨

Meta AI 今天一同发布了大型语言模型 Llama 2 及其调优版本 Llama 2-Chat，相比 Llama 1，新版Llama 2 在模型规模、训练数据量、模型结构等多个方面进行了全面提升。

Llama 2 家族包含多个模型规模，包括 70 亿、130 亿、340 亿（暂未发布）和 700 亿参数量的多个版本，覆盖了不同的应用场景需求。

此次Meta首先开源发布了 70 亿和 130 亿参数的 Llama 2 及对应的聊天机器人调优版本 Llama 2-Chat。

与 Llama 1 相比，Llama 2 在三个方面进行了重要的改进:

首先，训练数据量增加了 40%，从 Llama 1 的 1.4 万亿个 token 增至 2 万亿个 token。训练数据中的文本来源更多样化，包括书籍、论文、新闻报道、网页内容等在线公开来源。

Llama 2 还将单条文本的最大长度从 2048 个 token 提升至 4096 个 token，更长的文本输入意味着可以包含更多上下文信息，提升模型的理解能力。

Llama 2 在更大模型的版本中采用了「分组 Attention」机制，可以显著降低计算和内存需求，提升推理速度。

除了规模和结构的改进，Llama 2 在多个自然语言处理基准测试上的结果也优于 Llama 1 和其他开源大模型，显示出在知识表达、推理、对话等能力上的提升。

除了纯预训练模型，调优对话型模型对结果的质量也很重要。

Meta 研究人员开发了全新的调优方案，通过监督微调和强化学习相结合的方式不断提升 Llama 2-Chat 的性能。

举个例子，Llama 2-Chat 的理解能力和表达能力都上了一个台阶，现在可以只用 Emoji 和你聊天，

这是怎么做到的呢？Meta 的研究人员先利用人工标注数据进行监督微调，使模型初步符合人类偏好，兼顾有用性和安全性，为后续的强化学习奠定了良好基础。

然后，利用强化学习中的「拒绝采样」策略进行迭代调优。该策略为每个输入文本生成多个响应，利用训练好的「奖励模型」选择最佳响应，再利用选择后的响应样本微调模型。

研究人员收集了超过 100 万条人类偏好比较数据来训练奖励模型。

在此过程中，安全性和有用性作为两个独立的奖励模型进行训练和评估。

安全性奖励模型可以识别风险更高的输入并给出更低的分数，有助于降低模型生成有害内容的风险。

简单来说，Llama 2 的性能和安全性在开源大模型里面都是首屈一指的存在，更详细的技术细节可以参考 Meta 公布的技术论文。

? 论文链接：https://ai.meta.com/research/publications/llama-2-open-foundation-and-fine-tuned-chat-models/

目前 Meta 已在 GitHub 上开源了 Llama 2 预训练模型的代码和参数，允许研究人员进行探索。Meta 还开放了 Llama 2 的商业使用许可，相信很快将会有一批基于 Llama 2 的大模型产品涌现出来。

Meta + Microsoft = M&M’s ?

在今天的微软 Inspire 合作伙伴大会上，微软 CEO 萨蒂亚·纳德拉 （Satya Nadella）还宣布了 Meta 与微软合作的消息，这项合作让 Llama 2 可以运行在微软的云服务 Microsoft Azure。

Meta 则表示，微软是 Llama 2 的首选合作伙伴，未来两者会通过深度合作，以增加对基础人工智能技术的普及，从而让全球的企业受益。

部分合作伙伴

而除微软以外，Meta 同时还和亚马逊 AWS、Hugging Face 两家云服务供应商达成合作，在他们的平台上托管 Llama 2 的运行。

值得一提的是，尽管 Meta 宣称 Llama 2 模型是开源且免费商用的大语言模型，但通过 Azure 等云服务方式使用 Llama 2 是否需要收取费用则尚未清楚。

供应商之一的亚马逊发言人告诉彭博社，Amazon 不会收取访问该模型的费用，但客户需要为使用开发工具包支付费用。Meta 对此还没做出回应。

在微软官方博客中，微软表示 Llama 2 已经针对 Windows 进行优化，使其可以在 Windows 本地运行。

这一举措，有可能会让 Windows 一举成为开发者打造个性化 AI 体验需求的最佳平台，同时让 AI 能够用于 Linux 的 Windows 子系统 (WSL)、Windows 终端、Microsoft Visual Studio 和 VS Code 等平台上。

也就是说，Meta 推出的 Llama 2 大语言模型可能会成为 OpenAI 的主要竞争者。

但同一时间，微软持有 OpenAI 49% 的股份，OpenAI 也依赖 Azure 来提供大量算力以支撑其人工智能模型的运营，甚至 ChatGPT 目前联网搜索的插件也是接入必应的搜索引擎。

此前让不温不火的必应访问量暴增的 New Bing 也是依靠 GPT-4 技术来开发。可以说，微软在人工智能领域与 OpenAI 已经有深入的合作。

也有评论认为，两者或许存在竞争关系，但不影响微软两边同时押注。闭源领域依靠 OpenAI 实现 2C 业务，进行商业化。开源领域与 Meta 合作，建立生态的同时还能威胁到其他的闭源大语言模型。

Meta 生成式人工智能团队副总裁艾哈迈德·阿尔·达勒 (Ahmad Al Dahle) 表示，微软与 OpenAI 的合作与 Meta 没有关系。

Meta 与微软更进一步的合作并不让人意外。在 Meta 去年专注于开发「元宇宙」时，Meta 就曾与微软携手把 Office 、Microsoft Teams 等效率工具兼容到 Quest 设备中。

微软同时押注 Meta 和 OpenAI，或许是想要同时在开源和闭源领域广撒网，不错过每一种可能性。

Meta Llama 2 也探讨了在移动终端，特别是智能手机领域，本地运营的可能性。

高通在一份新闻稿中表示，高通正在和 Meta 合作优化 Meta Llama 2 大语言模型直接在终端侧的执行，计划在 2024 年起，在搭载骁龙平台的旗舰智能手机和 PC 上支持基于 Llama 2 的 AI 部署，赋能开发者使用骁龙平台的 AI 能力。

未来 Llama 2 将可能搭载在 VR 头显、汽车座舱、物联网终端等领域。

高通认为，终端侧的 AI 部署能显著降低开发成本，提升用户隐私保护、满足用户的安全偏好，增强应用可靠性以及实现个性化的服务。

也许到明年的这个时候，你正在用着的骁龙芯片手机正在运行 Llama 2 模型为你解决问题也说不定呢。