ChatGPT插件：开启AI新纪元，还是引发新的担忧？

站长之家3月29日 消息:上周，OpenAI宣布开放ChatGPT插件体系，这一升级极大地扩展了聊天机器人的功能，并首次使其能够访问来自网络的实时数据。

通过将应用程序和数据与ChatGPT连接，开发人员能够实现多种功能。他们不仅可以将信息（如股票报价和头条新闻）调用给ChatGPT，还可以向ChatGPT反馈文档并使其协助完成各种任务，例如预订旅行酒店机票或下外卖订单。这种连接方式大大提高了工作效率，同时也拓宽了应用范围。

消息一经发布，Twitter 上的讨论瞬间热络起来。众多用户纷纷注意到，ChatGPT 插件的首次亮相，其中包括Expedia、Instacart、Zapier以及OpenTable，这无疑展示了OpenAI的远大抱负，即借助将ChatGPT转化为开发者平台的方式，进一步加强其在行业内的领导地位。

在探讨ChatGPT插件对AI领域可能带来的影响时，我们是否曾深入思考过它的出现将会如何改变AI的生态呢？本文将向大家展示五大潜在影响：

1. 帮助减少 ChatGPT “幻觉”

据OpenAI阐述，插件具备处理与大型语言模型相关各类问题的能力，其中包括“幻觉”现象。这是AI研究人员针对ChatGPT可能出现的错误和失误所提出的别称。此外，插件还能帮助语言模型获取实时数据，并访问受权限保护的专属信息。通过整合外部数据的直接访问，如在线最新资讯、基于代码的计算以及自定义插件查询信息等，语言模型能够借助基于证据的引用来提升其回应的质量。

然而，Chomba Bupe，一位软件开发人员及AI研究员，在Twitter上提出，尽管插件API的基础是事实，但在ChatGPT执行用户指示的过程中仍会出现”幻觉”，并且当重新阐述结果时，还会进一步引入不必要的信息。

2.共享数据以收集用户查询数据

FiscalNote插件作为首批公开的ChatGPT插件之一，具有显著优势。这款插件汇集了数千个来自联邦、州及地方政府的立法、法规和政府文件。通过运用AI技术对这些信息进行结构化和规范化的处理，FiscalNote能够为企业客户提供定制化的数据反馈。

FiscalNote 在其插件上与 OpenAI 合作，部分原因是为了用有关政府文件的可靠数据来打击错误信息。

FiscalNote的创始人兼首席执行官 Tim Hwang 表示，“我确实觉得我们提供的数据对于确保该技术能够提供实际结果非常重要。”

但是，他补充说，该插件还为 FiscalNote 增加了价值，因为该公司从 OpenAI 接收有关 ChatGPT 查询的数据，然后可以将这些数据添加到自己的AI模型中。Hwang 继续说道:“我们将一部分数据提供给 OpenAI。我们不会打开整个防火墙。我们可以看到人们不同时间段查询的内容，这使我们能够回过头来完善我们自己的数据收集工作，并深入挖掘人们想要的领域。”

3. 危及网站的未来

如果 ChatGPT 可以免费抓取网站内容意味着什么?它是否会扼杀网站和网站流量，例如，可能更少的人浏览网站，因为他们可以直接从 ChatGPT 获得直接答案?

正如 Automattic 工程师 Riad Benguella 几周前在博客中所说:“如果我可以与机器人交谈并获得即时定制回复，我为什么还要打开浏览器呢?”

4. 敏感数据安全问题

在 ChatGPT 插件发布前几天，OpenA出现了一个小故障，该BUG让一些用户可以意外看到其他用户的提问的标题、以及部分个人信息。

Y Combinator 论坛的用户指出了ChatGPT 插件在安全方面的潜在风险:“可以通过 HTTP 代理设置匹配和替换规则来使用这些未发布的插件。绕过了只有客户端检查来验证您是否有权使用这些插件。”

5. 你好，向量数据库

OpenAI 发布了三个自己的 ChatGPT 插件，包括一个开源知识检索插件，“任何开发者都可以自行托管他们想要用来增强ChatGPT的信息。” 它允许用户“通过提问或用自然语言表达需求，从他们的数据源中获取最相关的文档片段，例如文件、笔记、电子邮件或公共文档”。

对于检索信息的插件，开发人员需要访问一个向量数据库，该数据库对文档进行索引和搜索，并充当应用程序的“长期记忆”。ChatGPT插件允许开发者从几个矢量数据库选项中选择一个，包括Pinecone。Pinecone 营销副总裁 Greg Kogan 说道:“现在每个人都急于构建 [ChatGPT 插件]，构建插件的公司将需要这种矢量数据库组件，这种长期记忆。”