鱼羊 编辑整理
量子位 | 公众号 QbitAI
在这场大模型军备竞赛中,我们没有护城河,OpenAI也没有。
一份谷歌内部“泄密文件”,正在网上一石激起千层浪。
全文挺长,但核心观点十分明确:开源大模型迅猛发展,正在侵蚀OpenAI和谷歌的阵地。
并且,“除非改变闭源的立场,否则开源替代品将最终使它们(包括ChatGPT)黯然失色”。
如此观点一出,立刻吸引了不少业内人士的关注。
Django框架的作者之一Simon Willison就转发点赞,“这是最近我了解到的有关LLM最有趣的事”、“绝对值得一读”。
据彭博社消息,文章原作者是谷歌高级软件工程师Luke Sernau,而其“内部文件”的真实性,也很快得到证实。
话不多说,一起来看具体内容。
核心观点
与开源大模型相比,谷歌在大模型质量方面仍有优势,但差距正在以惊人的速度缩小。大语言模型是否会因开源迎来“Stable Diffusion时刻”还有待观察,但其发展与图像生成领域具有相同要素。LoRA(低秩适应)在谷歌内部被低估了。巨型模型正在使我们减速。从长远角度看,最好的模型是那些可以快速迭代的模型。数据质量比数据规模更重要。直接与开源竞争是不明智的。
(以下为原文分享,经编辑)
谷歌
版权声明: 发表于 2023年12月29日 am8:07。
转载请注明:谷歌内部文件泄露:大模型已被开源偷家,不改变ChatGPT也会失色女间谍玛尔塔·哈里有多美?死后头颅做了防腐,至今被保留博物馆 | ChatGPT资源导航
转载请注明:谷歌内部文件泄露:大模型已被开源偷家,不改变ChatGPT也会失色女间谍玛尔塔·哈里有多美?死后头颅做了防腐,至今被保留博物馆 | ChatGPT资源导航