愚人节玩笑还是数据隐私问题：ChatGPT在意大利的命运

打开凤凰新闻，查看更多高清图片

经济观察网 记者 欧阳晓红

一

在每年的4月1日，“愚人节”的来临总是让人充满欢乐与期待。然而，对于ChatGPT的意大利用户而言，今年的“愚人节”似乎开了一个巨大的玩笑。而对于OpenAI来说，这则消息则有些突然，因为它需要花费20天的时间来适应这一情况。

在3月31日的某个时刻，意大利个人数据监管局（GPDP）以“非法收集个人资料；未成年人年龄核实系统缺失”的借口，宣布暂停使用ChatGPT，直至其遵守隐私法规。此决定立即生效，监管部门也已经开始展开调查。

在30日的行政措施文件中，GPDP表示已对ChatGPT进行了多次检测，并针对用户数据安全问题提出了多项建议。

1、ChatGPT并未告知用户任何关于OpenAI通过该服务数据收集的相关信息。

2、缺失对于用户个人数据的处理，以及对其作为ChatGPT算法优化途径的合格评判基准。

3、服务方提供的数据相关信息与部分事实不符。

在OpenAI所公布的条款中，明确规定公司产品面向的对象并非13岁以下的用户群体。然而，令人关注的是，ChatGPT并未设置任何关于用户年龄的验证机制，这无疑存在一定的风险。

GPDP宣称，3月20日发生了一场涉及付费服务订阅者与ChatGPT对话及支付信息的數據外洩事件。該事件暴露出最關鍵的問題在於，OpenAI並未提供足夠的法律依據來證明其收集和儲存大量個人數據的合理性，這為訓練平台運算基礎算法提供了基礎。另外，根據OpenAI的條款，服務使用者必須年滿13歲，然而GPDP強調，目前並無任何機制來驗證用戶的年齡，這使得未成年人在得到對自身發展水平和自我意識完全不適當的答案方面處於風險之中。

OpenAI虽然并未在欧盟设立办事处，但其在欧洲经济区的代表却必须在未来20天内提交GPDP要求的反馈，并说明将如何实施这些规定。此外，自该政策文件发布之日起，OpenAI将有20天的期限来适应欧盟的相关法律，对产品进行必要的调整。如果OpenAI未能按时做出相应的调整，将会受到欧盟法律的制裁，可能会被处以高达2000万欧元或全球年营业额4%的罚款。

为了在意大利继续运营，OpenAI必须在指定时间内提交所有与数据收集相关的文件。同时，还需明确指出用于验证访问其服务的用户的年龄的系统。只有在满足所有要求之后，OpenAI才能顺利地在意大利开展业务。

OpenAI的创始人Sam Altman在社交媒体上就有关意大利政府要求其停止在该国提供ChatGPT的请求做出了回应。他表示,OpenAI将严格遵守所有适用的法律和规定,包括意大利的法律。“意大利是我非常喜欢的国家之一,我期待着尽快再次访问。”虽然Altman认为遵守所有隐私法规是重要的,但他仍然表达了对意大利的喜爱之情。

事实上，GPDP叫停ChatGPT后，OpenAi在意大利连夜暂停了对该服务的访问。4月1日，当一早醒来的意大利用户尝试连接OpenAI时，得到的网页响应是：《网站所有者可能设置了阻止用户访问的限制》。

针对付费订阅用户，OpenAI将向3月份购买ChatGPTPlus订阅的意大利所有用户退款；还暂停了意大利的订阅续订，以便在 ChatGPT 暂停期间不会向用户收费。

“我们致力于保护人们的隐私，并相信我们提供的 ChatGPT 符合GDPR和其他隐私法。我们将与意大利数据保护局合作，以尽快恢复您的访问权限。”OpenAI支持团队在致意大利ChatGPT用户的公开信中表示，“许多人告诉我们，发现 ChatGPT 对日常任务很有帮助，我们期待很快再次提供它。”

二

是这样吗？据英国BBC报道，OpenAI承认对数据的处理缺失存在漏洞，随后又称ChatGPT之所以有收集数据的机制，是为了让其“学习这个世界”，而非“学习用户个人”，并表示“希望早日恢复对意大利的服务”。

问题在于，意大利用户不知道，20天“整改期”之后的结果如何。Sam Altman认为，OpenAi遵守了所有的隐私法；但GPDP有异议，需要OpenAI提供相关证明文件（但它们看起来并不容易），包括对用户年龄的核实系统问题何解？而且，意大利对基于欧盟人权法律下的个人隐私权极其重视，GPDP行政措施中所列的每一项内容均引自相关法律。

“我们需要停止ChatGPT，我们不知道它对我们的数据做了什么。”GPDP董事会成员之一的律师Guido Scorza就此接受媒体采访时表示。

自2020年开始，就一直是GPDP董事会成员的Guido Scorza说，GPDP此次是独立行动。现在OpenAi有20天的时间来遵守规定。

当被问及ChatGPT 收集了哪些数据时，Guido Scorza称，并不清楚。“我们唯一可以说的是（ChatGPT）收集个人数据是为了开发算法。如果不是这种情况，当我们向他询问或多或少有名的人物简介时，ChatGPT无法回答我们的问题。”

提及律师与OpenAI的分歧或异议，Guido Scorza直言，特别是三种不同的违规行为：(a) 收集了数十亿人的个人数据来训练他们的算法，而没有告知他们这种情况，并且可能没有适当的法律依据，(b)在对话期间收集用户的个人数据在不告知他们这些数据的命运的情况下，以及(c)生成内容以回答问题，这些内容有时会归因于人们不准确和不真实的事实和情况，从而提出对他们个人身份的歪曲表述。

Guido Scorza举例称，如果他问聊天机器人Guido Scorza 是什么时候进入数据保护局的，答案为2016年，但事实是2020年。“这（回答）还算不错；但如果他说我在海边撞到一个孩子然后逃跑了，而真相并非如此，那将永远毁了我的生活。而且我认为我们不允许发生这种情况。”Guido Scorza说。

他强调，这次GPDP是独立行动，因为 OpenAi不在欧洲相关隐私保护机构合作程序之内。不过，他认为，接下来的几天里，欧洲层面肯定会有讨论的空间，以了解是否以及如何合作和共同行动。

其画外音或是，GPDP“打响禁用ChatGPT头炮”之后，欧洲相关组织可能也会采取行动。

“AI热潮下，意大利禁用ChatGPT也许不会是个案。”分析人士认为，“而OpenAI自身漏洞也是不可忽视的长期隐患。在完全不知走向的科技革命中，任何一步均可能演变为无法弥补或逆转的历史，无论对错、代价如何；因此，现阶段下的AI向前推进的每一步都需审慎评估。”

就在几天前，包括埃隆·马斯克(Elon Musk) 在内的1000多人联名呼吁暂停高级人工智能的开发，直到独立专家开发、实施和审计这类设计的共享安全协议。

当地时间29日，据路透社报道，马斯克和一群人工智能专家、行业高管在由非营利组织未来生命研究所（FLI）发布的一封公开信中，呼吁暂停开发比GPT-4更强大的系统，暂停6个月，并指出其对社会和人类存在潜在风险。他们在信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。

这种担忧其实由来已久。在派拓网络副总裁兼亚太及日本地区首席安全官Sean Duca看来，ChatGPT（AI）是把“双刃剑”。多年来，全世界都在猜测AI可能即将统治世界。如今，用户可以使用AI驱动的安全工具和产品，在几乎无需人为干预的情况下应对大量网络安全事件，但业余黑客也可以利用同样的技术开发智能恶意软件程序并发起隐形攻击。

Sean Duca认为，ChatGPT带来的网络安全隐患不容忽视。比如，此前在拉斯维加斯举行的黑帽和Defcon安全大会上，一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓鱼信息方面是如何超越人类的。当务之急是采取智能化的行动来化解这些不断发展的威胁。好消息是自主响应如今能够在无需人类干预的情况下有效解决威胁。但随着AI驱动的攻击成为常态，受到自动化恶意软件攻击的企业、政府和个人需要越来越多地依靠AI和机器学习（ML）等新兴技术做出自动化响应。

诚然，随着技术的发展，人们越来越多地意识到数据隐私和保护的重要性。根据Gartner预测，到2024年末，全球75%人口的个人数据将得到现代隐私法规的保护。面对愈发完善的数据法律法规，作为数据管理领域全球领导者的Commvault列出了2023年数据隐私和保护的十大工作重点。

其中，重点一是数据保护策略：在不断变化的数据环境中，企业应该创建整体数据保护策略中的数据隐私、备份和恢复，以及灾难恢复计划，并不断更新。重点二是“加密”，加密对于数据保护和保护隐私数据至关重要。数据加密有助于防止对个人信息的未授权访问。这对于医疗机构、金融机构等需要处理大量隐私数据的企业机构尤为重要。

此外的重点六是数据治理和洞察；调查显示，57%的首席信息安全官承认，他们不清楚他们的一部分数据（或所有数据）位于何处，又是如何被保护的。随着隐私数据量的不断增长，法规的数量也在成倍增加。企业需要了解他们的数据，包括数据的位置以及哪些数据存在风险等等。企业如此，个人数据保护亦然。

“AI和人类之间的微妙平衡将成为实现网络安全的关键因素。”Sean Duca表示。