ChatGPT数据泄露潮：AI工具的隐私挑战，你准备好了吗？

ChatGPT与财务 2年前 (2023) lida

51 0 0

文章主题：ChatGPT, 数据泄露, AI安全政策

就在昨天，中国支付清算协会明确指出 “ChatGPT 这类智能化工具已经暴露出跨境数据泄露等风险。” 并发出 ” 谨慎使用 ChatGPT 等工具 ” 的倡议，该倡议强调支付行业从业人员要提高思想认识，依法依规使用 ChatGPT 等智能化工具，正确认识相关工具的机遇和风险，全面评估使用 ChatGPT 等工具处理工作内容的风险；倡议支付行业从业人员在使用 ChatGPT 等工具时，要严格遵守国家及行业相关法律法规要求，不上传国家及金融行业涉密文件及数据、不上传非公开的资料及数据、客户资料、支付清算基础设施或系统的核心代码等内容；倡议各会员单位要进一步健全信息安全内控管理制度，开展有针对性的数据风险防控工作，加强宣传和引导，提升员工的风险防范和数据保护意识，切实维护国家金融及支付行业安全。

一、ChatGPT 已发生多起数据泄漏事故

中国支付清算协会针对ChatGPT近期频发的数据安全问题，适时提出应对措施，旨在保护全球用户的隐私权益。这款人工智能语言模型在全球范围内已引发多起敏感信息泄露事件的担忧，如本月意大利个人数据保护局的严厉举措，宣布禁止ChatGPT在该国使用，并对OpenAI限制处理意大利用户信息，同时启动了针对这一情况的深入调查。同样，在韩国，一家全球知名科技巨头（🌟）也因员工不当使用ChatGPT导致机密数据泄露，凸显出其在半导体核心业务领域的信息安全风险。这些事件引发了业界对于人工智能技术潜在风险的高度关注，也促使相关机构重新审视并加强数据安全防护。协会的倡议不仅是对当前问题的及时回应，更是对未来的警示，旨在通过行业合作与法规制定，共同构建一个更安全、合规的数字环境。在此背景下，用户在享受ChatGPT带来的便利时，也需要提高警惕，确保个人信息的安全。

该泄露事件涉及三位员工，员工甲在运行半导体设备测量数据库下载程序的源代码时发生了错误，于是他复制所有有问题的源代码并将其输入到 ChatGPT 中询问解决方案。员工乙则将 ” 设备测量 ” 及 ” 产量和缺陷 ” 检测程序代码整个相关源输入 ChatGPT，要求 ChatGPT 帮助其优化代码。员工丙则是一名行政人员，其将用自己手机录制的会议内容转化为文字后，输入到 ChatGPT 中，要求 ChatGPT 优化这份录音转文字的稿件，使其看起来像一篇精心制作的会议纪要。

🌟【保密警钟】💡 某星半导体事件揭示：三位员工不慎泄露敏感信息，对此，公司迅速行动！🛡️面对信息安全的严重挑战，企业采取了严厉措施，以防类似情况再次发生。若不幸发生数据泄密导致紧急状况，公司已明确警告——内部网络将暂时屏蔽ChatGPT的接入，以确保网络安全。👩‍💻👨‍💻这一举措旨在保护公司的核心业务和技术秘密，防止潜在风险对业务造成影响。员工们需对此保持高度警惕，遵守严格的信息保护政策。记住，每一次点击都可能关乎到整个系统的安全！🛡️🌐欲了解更多关于信息安全的最新动态和最佳实践，敬请关注我们的官方平台，那里有专业的建议和解决方案。👩‍💻💡#信息保密#ChatGPT禁用#网络安全意识

事实上国内部分行业也已经对 ChatGPT 引发的敏感信息泄露问题发布了相关预警。除韩国某星外，微软、亚马逊等国际巨头企业亦对自己的员工发出预警，不要与 ChatGPT 分享公司的相关敏感信息，因为它们可能会被 ChatGPT 用于训练未来的语言模型。

🌟警惕隐私风险！💼金融巨头如花旗、德银、高盛和摩根大通已明确禁令，员工不得使用ChatGPT处理敏感任务，保护数据安全至关重要！🔥数千科技领袖与研究者齐声呼吁，暂停AI研发以优先讨论数据政策。💡他们担忧的是，潜在的AI变革可能加速数据泄露风险，须先筑起防线。👩‍💼AI与数字政策中心(CADP)紧随其后，向美国联邦贸易委员会(FTC)施压，要求禁止OpenAI推出ChatGPT商业版，确保规则先行。📝让我们共同关注，守护数据的未来安全！🔒 #ChatGPT禁用 #AI数据安全

二、ChatGPT 泄露数据风险点位分析

中国支付清算协会以及上述各企业对于 ChatGPT 数据泄漏风险的担忧不无道理。ChatGPT 的数据泄漏风险主要源于两部分，其一是 ChatGPT 本身的程序漏洞，其二是 ChatGPT 的工作原理。ChatGPT 本身的程序漏洞可能会导致用户的聊天内容泄露。这类事故已经发生过数次，就在上个月末。有部分网友生成自己的 ChatGPT 聊天栏中出现了其他人聊天记录的标题，3 月 25 日 OpenAI 发文证实是由于 ChatGPT 本身程序漏洞导致了泄露事故，OpenAI” 已紧急修复该漏洞并向用户致歉 “。事实上程序本身漏洞导致信息泄露并非 ” 不可饶恕 “，这些漏洞通常及时修补后就不会引起撼动 ChatGPT 根基的风波。而真正可能撼动 ChatGPT 根基的是后一种信息泄露风险点位，即 ChatGPT 的工作原理，实际上，ChatGPT 的工作原理就注定了其在现阶段很难解决信息泄露的问题。

具体而言，传统的聊天软件通常会声称 ” 本软件不会收集聊天记录、聊天信息也会点对点进行加密传输 “，事实上绝大部分的聊天软件也都会做到这一点。但是这一点对于 ChatGPT 而言几乎不可能实现，原因在于 ChatGPT 这类大语言模型一定会收集用户的聊天内容，并将其用于后续算法训练，以使得自身进一步迭代成为更加高效的 AI。因此，用户在与 ChatGPT 聊天的过程中提供的隐私内容，很可能会被 ChatGPT 收集，并成为其自身算法训练的素材，然后在其他场景中透露给别人。

于是 ” 故事 “（事故）就是这样产生的：某员工甲为图方便，将其单位的客户数据输入到 ChatGPT 中，希望 ChatGPT 根据数据生成相应的报告，其后这些客户数据就被 ChatGPT 收集并用作未来算法训练的素材。之后某商业间谍乙在使用 ChatGPT 时，询问 ChatGPT 某公司的客户数据大致是什么内容，ChatGPT 立刻就将其在员工甲处 ” 学习而来 ” 的知识告诉了乙……

当然，数据泄露的现实情况确实复杂多样，但这篇文章旨在以通俗易懂的方式揭示其基本原理。ChatGPT的功能机制短期内不会改变，OpenAI在其使用指南中已多次强调，用户输入的信息将用于模型迭代，因此需谨慎对待敏感内容。简言之，ChatGPT的运作模式本身就与隐私保护和数据跨境合规紧密相连，这一挑战的解决似乎尚需时日。📚💻🛡️

三、企业引入 AIGC 服务的合规要点

🌟认知升级，生产力飞跃！ChatGPT引领AI潮流，对企业竞争力至关重要🔍。面对潜在核心竞争力，我们不能回避，而应审慎应对。现行法规下，企业如何合规利用这股力量，是新的挑战💡。中国作为AI监管的先驱，早在今年1月就实施了《互联网信息服务深度合成管理规定》，为这一领域的发展划定了明确边界🛡️。让我们一起探索如何在法律与创新间找到最佳平衡，开启生产力新篇章🚀！#ChatGPT #AI合规 #深度合成管理

🌟了解最新动态！💡国家已出台多项法规，为AI生成内容（AIGC）和深度合成技术保驾护航。👀《互联网算法推荐》、《网络音视频》及《生态治理规定》，这些法律不仅规范了行业，还明确了对AIGC与深度合成的合规要求。对于希望在服务中应用这些先进技术的企业来说，至关重要的是遵循以下几点原则：📝首先，确保所有操作符合现有法规；💡其次，透明度是关键，用户应知晓AI生成的内容并非真实原创；🛡️最后，数据安全和隐私保护不能忽视，妥善处理个人信息。合规之路虽有挑战，但随着技术与法律的同步发展，企业将迎来更健康、可持续的未来。🚀让我们一起探索AI带来的无限可能，同时不忘遵循法规，确保每一步都走得稳健！🌟

1. 与深度合成服务提供者或者技术支持者的协议条款，重点关注在使用 AI 方面有何限制，有何免责场景。

2. 审查深度合成服务的提供作者与技术支持者是否履行了《互联网信息服务深度合成管理规定》中的合规任务。

3. 就员工内部使用 ChatGPT 等 AIGC 工具，制定合规使用政策，要求使用相关服务的员工至少应当明确哪些内容不可以通过 AIGC 处理，以避免企业自身敏感信息泄露。

4. 如企业引入的 AIGC 内容可能会向企业自身的客户披露，那就必须在对外服务时告知哪些内容是由 AI 生成的，应当警惕内容的风险，确保可能受影响人群的知情权。

四、写在最后

传统聊天软件的服务提供商通常不会收集聊天记录，聊天记录亦会点对点加密，但 ChatGPT 等 AIGC 却会不可避免地收集聊天内容用于后续的算法训练，以使自身 ” 迭代进化 “，用户提供的隐私信息很可能在这样的机制之下被披露给第三方，实际上 AIGC 正在慢慢改变隐私数据处理的边界与预期，这对企业合规、数据相关法律规范制定者、司法机关都是一个挑战，未来可能会涉及的数据合规尤其是数据出境等问题，可能仍需进一步探索与研究。

本文系未央网专栏作者 :肖飒发表，内容属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！