ChatGPT风头正劲，但也引发AI伦理与隐私保护的思考

自2022年11月Chat GPT上线以来，仅仅两个月的时间，其月活跃用户数量便已经超过1亿，创下了历史上用户增长速度最快纪录，成为了消费级应用程序中的佼佼者。

Chat GPT 已经升级到 4.0 版。新版的 GPT-4 在许多方面都有所改进,特别是在文字生成领域。它能够完成诸如作诗、写信、写广告、编写剧本和小说等多种任务。使用 AIGC 技术撰写的的高考作文,在不足一分钟内就生成了 40 多篇文章,并获得了专家给出的 48 分的高分,比其他 75% 的考生都要表现出色。

在此背景下，国内大厂纷纷跟进推出属于自身的 AI 大模型。比如说，百度的 ” 文心一言大模型 “，腾讯的 ” 混元大模型 “，阿里的 ” 通义大模型 “，华为的 ” 盘古大模型 “等等。

而在二级市场上，Chat GPT 的火爆也直接带火了和 AI 相关的概念股。以人脸识别、大数据、智能交互技术、产品及服务提供商汉王科技为例，按照汉王科技对外公布的业绩预告来看，公司在 2022 年归属于上市公司股东的净利润为：-9800 万元至 -14000 万元。长期的亏损，让汉王科技在 1 月 30 日以前的市值仅有 40.85 亿元左右。

自今年二月份开始，汉王科技股票的走势呈现上升趋势，甚至在三月份达到了30.66元/股的历史高峰。如果将此价格与今年一月份的15.34元/股相比较，其涨幅比例几乎高达一倍之巨。

然而，在硬币的另一方面，Chat GPT引发的争议正日益扩大。在3月30日，人工智能和数字政策中心向美国联邦贸易委员会提起投诉，试图阻止向公众推出强大的AI系统。第二天，意大利隐私监管机构宣布暂停在我国的使用Chat GPT。仅仅在三星引入Chat GPT的20天内，就发生了三次泄密事件。

针对以上问题，在美国当地时间 5 月 16 日召开的Open AI 首次听证会上，围绕着外界所关注的由 AI 所产生的版权侵害，虚假内容、失业问题，数据安全等问题也展开了相关讨论。

本次接受质询的对象包括 Open AI CEO Sam Altman，IBM 副总裁兼首席安全官 Christina Montgomery，纽约大学教授 Gary Marcus。而本次听证会上的一些核心内容，也让我们提前感知到未来Chat GPT 行业发生的一些变化。

图源：Open AI 听证会

一、Chat GPT 发展依然坎坷

在3月29日，科学家们联合发出了一项倡议，敦促所有AI实验室立即停止训练比GPT-4更为强大的AI系统，这一行动需持续至少6个月。

在会议上，Gary Marcus作为联名信的签署者之一，详细阐述了签署联名信的初衷。他并未要求暂停AI的研发工作，而是在确保AI的管理具有规范性和安全性之前，暂时停止部署比GPT-4更大规模的人工智能模型。他认为，将拥有超强功能的人工智能完全交给普通人使用，无疑是一次过于冒险的尝试。

Sam Altman对此回应称，在未来六个月内，Open AI暂无计划推出类似GPT-5的产品。这是因为Open AI目前对部署更高版本的Chat GPT仍存在许多疑虑。然而，Sam Altman同时也提出了一个深刻的问题：如果我们暂停了六个月的AI研发，我们可能会与世界脱节，那么六个月之后我们该怎么办？我们是否还需要再暂停六个月？

如Sam Altman所说，为了使超级AI大模型保持其优势，必须对其进行持续不断的训练。然而，在这一过程中也会出现许多问题，其中就包括高昂的成本以及商业化的挑战。

以 Chat GPT 为例，2018 年 Open AI 在训练 GPT-1 时，所用到的参数数量和数据训练量分别为 1.17 亿和 5GB。但在 2020 年训练 GPT-3 时，以上两项数字则分别增长到 1750 亿和 45 TB，GPT-4 的训练参数量更是高达 1.6 万亿。

另据 Open Al 发布的相关数据显示，训练 13 亿参数的 GPT-3 XL 模型训练一次消耗的算力约为 27.5 PF-days，训练 1750 亿参数的完整 GPT-3 模型则会消耗算力 3640 PF-days（以一万亿次每秒速度计算，需要 3640 天完成）。

图源：Open Al

庞大的数据量以及算力决定了搭建 AI 模型为典型的重资金产业。以 GPT-3 模型消耗的算力 3640 PF-days 来看，相关证券机构测算，保守估计前期成本至少投入在 200 多亿元。并且 Chat GPT 在前期访问阶段初始投入近十亿美元，单日电费数万美元。训练阶段，单次训练约为百万至千万美元。

然而，在高成本的背后，目前关于整个 Chat GPT 不管是在 TOC 端还是 TOB 端的商业化仍不清晰。以 TOB 端为例，Chat GPT 若想要完全打开 TOB 端市场，也面临着诸多现实问题。

一方面，如何打消 TOB 端的诸多顾虑，进而让 TOB 敢用 Chat GPT。比如说，目前 TOB 端普遍担心因使用 Chat GPT 而产生数据泄露风险，进而对企业业务产生诸多不利影响。

但正如美国 NIST（国家标准与技术研究院）发布了《AI 风险管理框架 1.0》所提到的那样，AI 模型的优化可解释性和隐私增强性之间会存在矛盾；或者在数据较稀疏的情况下，隐私增强技术可能导致有效性降低。过度关注某一方面特性，例如：高度安全但不公平的系统、有效但不透明和不可解释的系统以及不准确但安全、隐私增强和透明的系统都是不可取的。

另一方面，对标围绕 TOB 端的 SaaS 产业的发展来看，TOB 端产品只有给企业带来真正 ” 降本增效 ” 的价值，企业才愿意付费。但由于 TOB 端行业的分散性、差异性、多而乱的特点，行业很难形成规模效应。

目前国内 SaaS 产业所走的 ” 以低价换取市场份额 ” 的路线，也决定了当前国内和 SaaS 相关的企业，除具有先发优势的阿里云实现盈利，绝大多数企业仍以亏损为主。

那么未来 Chat GPT 在为 TOB 端服务时，其价格到底要如何制定呢？是走 SaaS 行业以价换量的路线，或是将价格定得很高，只服务小部分企业呢？但不管走哪个路线，均决定了 Chat GPT 在 TOB 端想要实现盈利，并非易事。

另外考虑到当前全球经济进入到新一轮下行周期，未来诸多行业业绩承压已是不争的事实。因此，不管是投资机构，或是大厂又是否有足够的现金流和足够的耐心，来真正探索出各类 ” 超级 AI 大模型 ” 的盈利，这里仍值得商榷。

二、生成式 AI 仍面临外部多重压力

若成本和收益问题超级 AI 大模型内部需面临的问题，来自外部的种种质疑也决定了生成式 AI 后续的发展并不明朗。

其一，如何对 AI 公司进行监管。Sam Altman 提出的建议如下：对 AI 厂商提供许可证，并吊销不符合政府标准的厂商的许可证。为 AI 大模型创建一套安全标准，包括评估其风险，大模型必须通过一些安全测试；指派第三方专家独立审核 AI 产品的各方面指标，支持创立一个为 AI 制定相关标准的国际组织，由美国领导。同时，Sam Altman 和 Gary Marcus 均呼吁成立专门的 TOG 机构，负责对 AI 的监管。

事实上，Sam Altman 和 Gary Marcus 所提出的这些建议，也的确符合未来超级 AI 大模型的需要。比如说，对标国内的网约车拍照和金融支付拍照的发放来看，政府监管加强后，能让行业从此前的野蛮生长阶段逐渐回归到理性增长阶段。

但仍需要指出的是，因全球不同国家的文化、政治差异性较大，又叠加自 2022 年全球地缘冲突的不断升级和加剧，一套全球可行的 AI 式标准制定未来估计需要很长的时间才能制定。在尚无清晰的标准下，也决定了未来超级 AI 大模型的出海业务，将面临着层层压力。

其二，如何解决反垄断问题。在听证会上，参议员 Cory Booke 提出了一个问题：Open AI 由微软支持，Anthropic 则由谷歌支持。那么，未来随着这些公司的规模越来越大，其必然也会对人们的生活影响越来越大，并有可能在商业上实现垄断。

对此，Sam Altman 则解释道 AI 大模型的研发相对困难，只有少数企业能够研发出 AI 大模型。这并不会造成垄断，反而会在一定程度上降低监管难度。但坦白来说，Sam Altman 的解释并不成立。一方面，如上文所述，基于研发 AI 大模型对企业的资金、技术均要求极高，目前 AI 大模型也的确被掌握在大厂手中。

但另一方面，从国内多个行业的经验来看，当大厂完全主导后，行业必然会出现垄断现象，比如网约车行业、在线货运平台、外卖行业等等。而随着各国政府对本国反垄断法律法规政策制定的愈发完善，不排除后续各国政府对由超级 AI 大模型所产生的垄断问题，监管只会更加严格。

其三，针对外界所关注的由 Open AI 所产生的版权以及版权付费问题。Sam Altman 则表示，未来 Open AI 会拿出相关政策保护地方新闻业的发展。但对于内容创作者版权权益的问题，Sam Altman 并没有给出明确的回复。

事实上，对于 Sam Altman 的不回复虽能理解，毕竟 Chat GPT 在内容创作上需海量的内容作为支撑，而从国内内容平台给到创作者的收益来看，Open AI 若是真正为创作者付费的话，这必然会加重 Chat GPT 的成本投入。

但坦白来说，Chat GPT 对创作者内容的随意抓取，并且不付费的方式，无异于杀鸡取卵。一旦后续内容创作者进行联合，全面抵制 Open AI 的这种做法，未来 GPT 更高版本是否能继续保持优势，仍有待观察。

而从现阶段来看这种情况已经出现，比如说，去年柏林两位艺术家搭建了一个名为 ” 我正在被用来训练吗 ” 的网站，艺术家可以检索自己的作品是否进入了 AI 训练数据库。但 Chat GPT 所面临的问题并非个案，而是国内外 AI 大模型公司都必须要思考的问题。

三、AI 大模型是否会引发大规模失业？

在听证会上，Gary Marcus 指出人们不应该小看 AI 对就业带来的影响。事实上，Gary Marcus 的担忧并非空穴来风。此前 IBM 曾宣布：暂缓可以被 AI 取代的岗位的招聘，约 7800 人将被永久淘汰。

微软也宣布将于 6 月底进行裁员，裁员对象主要为记者和编辑，并将在未来加大力度使用 AI 技术取代人类新闻编辑。” 新上岗 ” 的 AI 算法将会代替人类编辑选取可报道的新闻事件、改写新闻标题、寻找文章配图等工作。

但 Sam Altman 却认为，目前 GPT-4 仍能被人类很好的所控制和使用，它会让一些工作自动化，甚至被替代掉。但人类利用 AI 大模型可以拥有更多能力、更多时间追求自己喜欢的事物，这将创造出更多工作机会。

IBM 的 Christina 和 Sam Altman 有着一致的观点。她认为，AI 大模型 ” 将会改变每一项工作 “，如今的工作重点应该是做好新老工作的过渡。到 2030 年，IBM 将培训 3000 万个人掌握当今社会所需的技能。

事实上，Sam Altman 和 Christina 说法并非没有道理。现阶段，AIGC 的确可以创作海量的内容，但 AIGC 毕竟只是工具，缺乏人类的情感和思考能力。而人类的情感和思考能力，在诸多工作岗位中发挥着重要作用。

以内容创作为例，作家余华曾指出：从我们目前对那个 GPT 的理解

就他的能力，如果他要写小说的话，他大概能写出中庸的小说。但他不会写出充满了个性的小说，因为他是大量的那种文本，他可能把小说写得很完美，但是其实是很平庸。

图源：作家余华谈 ChatGPT

在以电商行业的客服岗位为例，从事多年电商客服工作的李洋洋告诉我们，在处理客户的售后过程中，最为核心的地方在于需根据和客户沟通过程中的语气、文字，推测出当前客户的情感，并做到有针对性地处理客户的问题。若单纯使用 AI 大模型回复客户售后问题，这不但无法处理好客户的问题，反而还会降低售后质量。

而且拉长维度来看，若未来各类 AI 大模型具备和人类一样的情感，这必然会引发世界范围内的恐慌，不排除 AI 大模型会出现被关停的命运。但当 AI 大模型之充当辅助性工具后，也面临着一个问题。即它的能力和价格是否匹配，ToC 端又是否愿意付费呢？

结语：

事实上，任何新兴事物从成熟到发展，从来都是不走直线走曲线。但相较于其他行业而言，AI 大模型所牵扯到的失业问题、各种法律风险、垄断问题、成本和收益等等，均注定了国内外任何一家 AI 大模型厂商在未来 AI 大模型商业化的探索之路上都难言轻松，对于后续 AI 大模型的发展是否能达到市场预期，仍需要时间来观察。

查看原文