ChatGPT回归意大利，AI聊天机器人面临更大法律挑战？GDPR新时代法规下的数据保护与信息透明

站长之家5月8日消息:OpenAI 此前成功安抚了意大利数据机构，解除了该国对 ChatGPT 的禁令，但其在与欧洲监管机构的斗争仍远未结束。

🎉 ChatGPT 复活记 🤖 最近，备受瞩目的 AI 聊天机器人 ChatGPT 遭遇了一次法律上的挑战，在意大利引起了轩然大波。然而，聪明的团队 @OpenAI 立刻行动，通过合规调整成功地扫清了障碍。于 4 月 28 日，ChatGPT 如约回归，悄无声息地解决了 GPDP（意大利数据保护机构）的顾虑，展现了其强大的适应力和灵活性。这次看似简单的胜利背后，是技术与法规的巧妙平衡，也让全球用户再次见证了 OpenAI 的专业实力。欧盟的数据安全，OpenAI 用心守护！🚀

GPDP对ChatGPT带来的创新表示赞赏，然而，它所引发的法律挑战和行业问题正逐渐浮出水面。全球各地的监管机构正密切关注AI聊天机器人如何处理信息，从数据采集违规到误导性内容的传播，都成为调查焦点。特别是在欧盟，GDPR以其严苛著称，其影响力远超欧洲，可能对类似ChatGPT的服务产生深远影响。同时，欧盟正在酝酿一部专门针对AI的新法，这无疑将为这一领域的法规制定树立新的标杆。🌟💡

ChatGPT, the buzzword in AI生成领域, has faced scrutiny over its质量管理 and data privacy concerns. As a popular tool for text generation, it offers a suite of functionalities encompassing translation, writing assistance, code creation, and more. Its rapid growth within two months of launch in November 2022, reaching an estimated monthly active user base of over 1 billion, made it an unprecedentedly fast-evolving consumer app (numbers not officially confirmed by OpenAI), catching the attention worldwide. Users rely on it for language translation, content creation, and coding tasks.However, concerns have emerged regarding its accuracy and the lack of clarity around copyright ownership. Regulatory bodies have also raised questions about the AI’s transparency in data protection practices. Despite its convenience, these issues have cast doubt on ChatGPT’s reliability and have sparked debates about its role in shaping the digital landscape.

意大利作为全球领先的AI合规先驱，于3月31日对OpenAI的违规行为发出了严厉警告，提出了四大违反GDPR的问题：ChatGPT潜在的不实信息传播、用户数据隐私的缺失通知、未遵循的六种合法数据处理原则，以及未能有效保护未成年人的使用。随后，GDPR要求OpenAI立即暂停在ChatGPT训练过程中收集的个人数据操作。这一举措旨在维护全球数据安全与隐私标准，展示了其对技术伦理的高度责任感。

在全球范围内，ChatGPT的使用已开始引发关注。尽管目前其他国家尚未采取实际行动，但欧盟内的德国、法国和西班牙已相继展开了对其合规性的深入调查，这标志着对该技术潜在问题的重视。加拿大也通过PIPEDA法进行评估，对隐私问题保持着警惕。欧洲数据保护委员会（EDPB）更是建立了专门团队，以协助各国协调行动。如果OpenAI因此受到要求改变的压力，可能会对全球用户的服务产生影响，这是未来必须面对和解决的问题。

🌟监管焦点聚焦两大关键领域🔍 – ChatGPT数据来源深究与OpenAI如何透明传递资讯💡。ChatGPT的数据之旅，其数据采集的合规性及多样性成为首要关注点，确保技术的创新与用户隐私的双重保护。另一方面，OpenAI的服务指南，信息传达的透明度和准确性，也是监管不可或缺的环节。让每一个用户都能安心地使用这一人工智能工具，是当前讨论的核心议题。

ChatGPT 使用的是 OpenAI 的 GPT-3.5 和 GPT-4 大型语言模型（LLM），这些模型基于大量的人类产生的文本进行训练。OpenAI 对使用的具体训练文本持保密态度，但表示其依靠「各种许可，创造和公开可用的数据来源，其中可能包括公开可用的个人信息。」

这可能会在 GDPR 下带来巨大的问题。该法律于 2018 年颁布，覆盖从欧盟公民那里收集或处理数据的所有服务，无论负责该服务的组织所在何处。GDPR 规定，公司在收集个人数据之前必须取得明确同意，并为收集数据提供法律合理性，并透明地说明如何使用和存储数据。

欧洲监管机构声称，围绕 OpenAI 训练数据的保密性意味着无法确认进入其中的个人信息是否最初是在用户同意的情况下提供的，GPDP 特别指出，OpenAI 一开始就「没有法律依据」收集这些信息。到目前为止，OpenAI 和其他公司几乎没有受到审查，但这一说法给未来的数据抓取工作增加了一个大问题。

此外，GDPR 的「被遗忘权」允许用户要求公司纠正其个人信息或完全删除它。OpenAI 预先更新了其隐私政策以促进这些要求，但在将特定数据分离成这些大型语言模型后，处理它们可能非常复杂，这引发了争议。OpenAI 还直接从用户处收集信息。与任何互联网平台一样，它收集各种标准用户数据（例如姓名，联系信息，银行卡详细信息等）。但是，更重要的是，它记录用户与 ChatGPT 的交互。正如 FAQ 中所述，该数据可以由 OpenAI 的员工进行审核，并用于训练其模型的未来版本。考虑到人们使用 ChatGPT 提问的亲密问题——将机器人当作治疗师或医生使用——这意味着该公司正在收集各种敏感数据。

至少有一些数据可能是从未成年人那里收集的，因为 OpenAI 的政策规定「不会故意从 13 岁以下的儿童那里收集个人信息」，但没有严格的年龄确认门槛。对于不允许从 13 岁以下的人那里收集数据，并且（在某些国家）要求 16 岁以下的未成年人获得父母同意的欧盟规定来说，这并不是好的政策。在担忧 ChatGPT 的未成年人筛选问题方面，GPDP 声称，ChatGPT 缺乏年龄过滤，会暴露未成年人接触「完全不适合其成长和自我意识水平」的回答。OpenAI 在使用这些数据方面拥有广泛的自由度，这让一些监管机构感到担忧，存储数据也存在安全风险。像三星和 JPMorgan 这样的公司已经禁止员工使用生成 AI 工具，因为他们担心员工会上传敏感数据。实际上，在 ChatGPT 遭受严重数据泄露，暴露用户的聊天记录和电子邮件地址后，意大利宣布禁用该应用。

ChatGPT 提供错误信息的倾向也可能会带来问题。GDPR 法规规定所有个人数据必须准确无误，这一点在 GPDP 的声明中得到强调。这可能会对大多数 AI 文本生成器造成困扰，因为它们容易出现「幻觉」：即对问题作出事实不正确或不相关的回答。在其他地方已经看到这种现象带来一些真实的后果，澳大利亚一个地区的市长因 ChatGPT 错误地声称他因贪污入狱而威胁起诉 OpenAI 诽谤他。ChatGPT 的广泛应用和目前在 AI 市场上的主导地位使其成为一个特别有吸引力的目标，但它的竞争对手和合作伙伴，如拥有 Bard 的谷歌或 OpenAI 的 Azure AI，也可能面临审查。在 ChatGPT 之前，意大利还禁止了聊天机器人平台 Replika 收集未成年人信息，至今仍然被禁用。虽然 GDPR 是一套强大的法律，但它并不是为解决 AI 特定问题而制定的。然而，一些可以解决这些问题的规定可能已经在视野范围内。

2021 年，欧盟提交了第一份《人工智能法》（AIA）的草案，这部立法将与 GDPR 一起制定。该法案根据人们对 AI 工具的风险评估对其进行管理，从「最小」（例如垃圾邮件过滤器）到「高」（用于执法或教育的 AI 工具）或「不可接受」，并因此被禁用（如社会信用体系）。在去年出现像 ChatGPT 这样的大型语言模型的激增之后，立法者现在正在赶快增加「基础模型」和「通用人工智能系统（GPAIs）」的规则——这是指包括 LLMs 在内的大规模 AI 系统——并有可能把它们归为「高风险」服务。

AIA 的规定不仅超出了数据保护的范畴。最近提出的一项修正案将强制公司披露用于开发生成 AI 工具的任何版权材料。这可能会暴露曾经的机密数据集，使更多的公司容易受到侵权诉讼的攻击，而这已经打击了一些服务。

专门制定 AI 法规的法律可能要等到 2024 年才会在欧洲生效，但达成该法律可能需要一段时间。欧盟立法者于 4 月 27 日就 AI 法案达成了临时协议。委员会将在 5 月 11 日对草案进行投票，最终提案预计在 6 月中旬公布。然后，欧洲理事会、议会和委员会将不得不解决任何悬而未决的争议，然后才能实施该法律。如果一切顺利，它可能会在 2024 年下半年被采纳。

目前，意大利和 OpenAI 的争议提供了一个早期的案例，展示了监管机构和 AI 公司如何进行谈判。如果 OpenAI 在 9 月 30 日之前无法创建一个更严格的年龄门槛以防止 13 岁以下的未成年人进入，并要求年龄在 13 岁以上的未成年人获得父母的同意，那么它可能会再次被封锁。但这提供了一个示范，说明欧洲认为什么是一个合适的 AI 公司行为——至少在新法规发布之前是这样。