文本到图像：高中物理教师如何养出400亿独角兽的开源秘密?
文章主题：
编者按：本文来自微信公众号 量子位（ID：QbitAI），作者：杨净，创业邦经授权转载
他本是一位普普通通的高中教师，却活生生养出一个估值40亿美元独角兽。
而且方法也是非常的独特——
打造了世界最大的免费开源数据集，却从未从中收取过一分钱，也婉拒了各类工作的邀请。
他叫舒曼，在德国汉堡市的高中教物理和计算机科学。
🌟 LAION, the game-changer in AI 🎮 Launched two years ago by a visionary, it’s now a powerhouse driving innovation 🧠 In the realm of generative models, its impact is felt across multiple giants like Google Imagen & Parti. But wait till you see the groundbreaking Stable Diffusion that has taken the world by storm! 🌍This groundbreaking dataset, LAION, has revolutionized the AI landscape, serving as a catalyst for cutting-edge research and development. Its versatility allows it to fuel various models, pushing boundaries in image synthesis and beyond. The journey from its humble beginnings to becoming a go-to resource for top tech companies is truly remarkable. 🚀欲了解更多关于LAION如何引领AI潮流的深度探索，不妨关注它如何塑造未来的科技格局。它不仅改变了游戏规则，还在无形中推动了人工智能的进步。🏆
🌟当 Stability AI 的创始人亲临，送上那笔意料之外的资金时，他的态度却出人意料地坚决。他直截了当地表达了自己的看法，仿佛在说：“这家伙，肯定脑子有病。”这种不为金钱所动的坚定，展现出他对价值判断的独特标准，而非简单的贪婪或误解。
或许他怎么也没想到，只不过两年前灵机一动，就带来了生成式AI的剧变。
受DALL-E启发
2021年新年之际，OpenAI重磅推出DALL-E，GPT-3首次成功实现跨界：
只需对着它说上一段话，就能生成对应图片。
一时间风光无两，吴恩达在内的科技大佬们都激动了，网友们都称其为甲方克星。
🎓数据安全忧虑在德国汉堡一隅：中学教师舒曼的隐忧🔍innerText: 柏林郊外，一位深思教育隐私的高中教师——Christoph Schuhmann，心中萦绕着数据私密性的顾虑。他的声音，虽不响亮，却在数字时代的大背景下显得尤为引人关注。🎓舒曼教授，以其敏锐洞察，对当前技术如何侵犯个人信息权益进行了深入探讨。他担忧，看似无处不在的数据共享背后，可能隐藏着潜在的风险，威胁到每个个体的隐私保护。📚💻在这个信息化高度发达的社会，他的忧虑并非空穴来风。德国汉堡市郊的这间房屋，仿佛成为了一个微型实验室，见证着他如何坚守教育伦理，对抗数据滥用的挑战。🛡️🌍舒曼的教学理念，或许能为公众提供一个更安全、公正的数据环境的蓝图。他的故事，值得我们倾听和思考，共同守护那份至关重要的数字权利。👩🏫🌐
如果这一切都集中在一家、两家或三家公司，那将对社会产生非常糟糕的影响。
🌟【揭秘未来】OpenAI引领创新！🚀🔥 神秘力量揭示：CLIP，颠覆传统认知的革命性模型！💡论文轰动！OpenAI凭借CLIP，打破4亿海量数据训练的记录，实现了无微不至的多模态卓越表现。💪无需繁复调校，它已在全球基准中傲视群雄！这项里程碑式的成就，展示了人工智能的强大潜力，CLIP如同一位全能语言艺术家，跨越视觉与语义的鸿沟，轻松驾驭图像与文本的无缝对接。🖼️🌍欲了解更多关于CLIP如何塑造未来世界的深度探索，敬请关注我们，一起见证科技的力量！👇#OpenAI #CLIP #多模态技术 #人工智能革命
🌟数据集对CLIP来说至关重要，但这背后的秘密并未完全揭晓！💡OpenAI虽慷慨地分享了CLIP的源码和权重，却巧妙地保留了关键数据。🌈尽管如此，研究者们依然能通过这些公开资源深入探索这一强大的模型，挖掘其无限潜力。📚想要更深入了解CLIP的工作原理？别急，让我们一起揭开这个技术巨头的神秘面纱！🌐SEO优化提示：使用’数据集+CLIP+OpenAI+秘密分享’等关键词，增加表情符号以提升可读性。
（看来从那时候就已经变得Close了）
🌟🎨程序员探索新领域！💡艺术家与AI携手创作🔥——舒曼引领Discord社区📚，聚集一群AI狂热者，他们共同的目标是创造出堪比OpenAI的文本至图像杰作🖼️。通过 Discord 的平台，这群创新者们正在积极构建一个独特的数据集，旨在推动人工智能艺术的发展🚀。欲了解更多关于这个创意过程的精彩瞬间，敬请关注我们未来的更新动态！🌐💖
没想到这一搞就搞了大半年，直到2021年8月他们首次发布了LAION-400M数据集，里面包含了4.13亿图像-文本对。
回顾整个创建过程，舒曼对彭博社这样形容：
就像是用数百万张抽认卡来教一个人一门外语。
他们用一个非盈利组织Common Crawl在2014年到2021年期间，抓取的随机HTML代码来定位网络上的图像，并将这些图像与描述性文本联系起来，最后还得根据一定规则来过滤掉不适合的样本。
比如，删除了所有文本长度少于五个字符；图像小于5KB的的样本；关键字带有NSFW的……几周之内，他们就拥有了300万对图文对。
数据集发布之后就收到了各种反响，被用于诸多论文和实验。其中最具代表性的，就是Google Brain去年（2022）发布的Imagen——文本生成图像的扩散模型。
与此同时，更多机构开始关注到这个非盈利组织并给予资金支持。2021年他们就收到了HuggingFace的一次性捐赠。
但印象最深的一次，还要属一个对冲基金经理来到Discord聊天室。
当时他二话不说直接送钱，大概意思是：我给你们支付算力费用，没有任何附加条件。
舒曼团队对这个行为嗤之以鼻，甚至觉得他是个疯子：
一开始我们非常怀疑，但大概一个月后，我们获得了价值近1万美元的云计算服务。
后来，这个所谓的“疯子”创办了Stability AI，使用LAION数据集推出了Stable Diffusion，引领了生成式AI的浪潮，顺便还拐走了LAION组织的两个研究人员。
如今Stability AI正在寻求40亿美元（折合276亿元）估值，这主要归功于LAION提供的数据。
据彭博社消息，舒曼却并没有从LAION中获利，原因很简单：不感兴趣，希望保持这份工作的独立性。
因此他还婉拒了各类工作邀请，依旧选择在德国汉堡当一名普普通通的高中老师。
本人：数据集不应该被监控
即便如此，随着LAION知名度打响，他还是避免不了地卷入到各种纷扰之中。
目前，LAION已经发布了10项数据集，最具代表性的就是去年3月发布的LAION-5B，由58.5亿个图像文本组成，是当前最大的免费开源数据集。
作为LAION-400M的继任者，它收到了来自HuggingFace、Stability AI以及Doodlebot资助。
结果一发布就遭到了不小的争议，网友们纷纷质疑其数据未经整理，导致充斥大量的非法内容，对此LAION工程师Romain Beaumont回应：
非标注数据集是自我监督学习的基础，这是机器学习的未来。没有人工标注的图像/文本是一项功能，而非错误。
早在Imagen发布时，也专门针对LAION-400M做出警示：因为依赖于这种未经整理的网络数据， 集成了大模型的社会偏见和限制，因此不适合公开使用。
据彭博社消息，为了打造LAION，舒曼团队从亚马逊网络服务、Shopify等公司获取视觉数据，还有包括YouTube缩略图、各类新闻网站上的内容。
对此舒曼表示，任何在网上免费提供的东西都是公平竞争，欧盟也没有人工智能法规。
更何况，也没有人知道OpenAI实际上用什么样的数据集训练AI的。
目前，LAION被迫卷入两场诉讼之中，一起是Stability AI与Midjourney等集体诉讼，被指使用艺术家的版权图片来训练他们的模型；
另一起是Getty Images起诉Stability AI，称其1200万张照片被LAION取走，并用来训练Stable Diffusion。
而舒曼将LAION比作大信息技术海啸之上一艘“小型研究船”，采取海下的样本向世界展示。
其实早在构建数据库时，他们就在运行一个自动化过滤工具，不过舒曼感兴趣的不是清理，而是从这些资产中学习。
我们本可以从公布的数据中过滤掉暴力，但我们决定不这样做，因为这将加快暴力检测软件的开发。
现在更多关于监管的建议在推动，各个科技大厂也在采取相应的措施，比如英伟达就开源了护栏工具，来防止大模型来胡说八道。
但在舒曼看来，数据集不应该被监控。这也正是当时创建LAION时候的初心。
他还警告，如果我们试图放慢速度、过度监管，就会有很大的危险，最终只有少数大公司能负担得起所有的正式要求。
前段时间，在LAION与全球志愿者的合力之下，他们完成了ChatGPT最大开源平替OpenAssistant的发布。
60万余条训练数据全部由人工生成，涵盖了广泛的话题和语言风格，一时间引发众人关注，HuggingFace也直接拿来用来构建它自己的聊天软件HuggingChat。
拿着德国铁饭碗
不可否认的是，他已经在用开源数据集，加剧了生成式AI的浪潮。
但在舒曼的个人网站上，看到的只是一位两个孩子的父亲，在德国当着终身制公务员，游走于中学校之间讲授物理和计算机科学。
舒曼拥有维也纳大学计算机科学与物理学学位。在学习这两个专业之前，他还学了心理学。（大概完成了50%的学士学位然后就转专业了）。
除此之外，他还在学习表演，制作了一部关于孩子学习的纪录片「Schools of Trust」。
参考链接：
[1]https://laion.ai/blog/laion-400-open-dataset/
[2]https://www.bloomberg.com/news/features/2023-04-24/a-high-school-teacher-s-free-image-database-powers-ai-unicorns
[3]http://christoph-schuhmann.de/
[4]https://www.infoq.com/news/2022/05/laion-5b-image-text-dataset/
[5]https://laion.ai/projects/
本文为专栏作者授权创业邦发表，版权归原作者所有。文章系作者个人观点，不代表创业邦立场，转载请联系原作者。如有任何疑问，请联系
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
