文章主题：ChatGPT, 数据泄露, 风险防控
作者 | 肖飒 来源 | 零壹财经专栏
🌟ChatGPT引发了全球关注，它以其强大的智能功能在支付清算领域带来了潜在挑战。中国支付清算协会已明确警告，跨境数据泄露的隐患不容忽视。为了确保信息安全，专业人士呼吁大家谨慎使用此类工具。🎨支付行业的同仁们，务必提升对新技术带来的机遇与风险的认识，全面评估ChatGPT等工具可能带来的工作影响。在使用过程中，遵守法律法规是首要准则。🚫 不要轻易触碰敏感信息，如国家机密、金融数据或核心代码。保密文件和客户资料应妥善保管，避免泄露风险。🛡️各会员单位需加强信息安全内控，制定针对性的防护策略，同时也要通过教育引导，增强员工的数据保护意识。只有这样，我们才能在享受科技便利的同时，确保国家金融与支付系统的安全。📚让我们共同守护这片数据海洋，迎接智能时代的挑战与机遇。💪
一、ChatGPT已发生多起数据泄漏事故
中国支付清算协会针对ChatGPT近期频发的数据安全问题，适时提出应对措施，旨在保护全球用户的隐私权益。这款人工智能语言模型已在全球范围内引发多起敏感信息泄漏事件的担忧，如本月意大利个人数据保护局的严厉举措，宣布即日起全面禁止ChatGPT在该国使用，并对OpenAI公司处理意大利用户信息进行限制。同时，该机构已经开始针对这一情况展开深入调查。同样，在韩国，一家全球知名的大型企业——三星电子也因员工使用ChatGPT导致机密数据泄露的问题而面临挑战。这凸显出在高度敏感的行业如存储、芯片设计和晶圆代工中，严格的信息安全管理至关重要。值得注意的是，这些事件不仅对用户造成潜在风险，同时也对科技公司提出了更高的合规要求，如何确保技术与隐私的平衡成为亟待解决的问题。ChatGPT的数据安全问题无疑引发了全球对于数据保护和AI伦理的深度反思。
🌟三位专业人士的AI误操作💥：一场数据安全与技术智慧的意外交响曲💡在这场看似平常的工作流程中，三位员工——甲、乙和丙，不慎踏入了科技伦理与隐私保护的微妙地带。他们的不慎操作，如同无形的音符，在ChatGPT这个智能舞台上奏出了一曲不和谐的旋律。首先，员工甲在半导体设备的关键环节遭遇了代码bug，他试图用错误的源码寻求解答，却无意中将问题扩散至AI平台。💡接着，敏感的生产数据和质量检测程序被员工乙全盘托出，ChatGPT的“耳朵”捕捉到了这些核心信息，引发了潜在的数据泄露风险。🔍最后，丙作为行政人员，不慎将会议录音转化为文字内容输入，原本的日常操作却成了潜在的机密泄露隐患。👩💻尽管这只是个案，但这次事件提醒我们，任何技术使用都应谨慎对待，防止AI滥用导致的信息安全漏洞。我们需要提升员工对AI伦理的认识，确保数据在流动中的安全。🛡️让我们共同期待科技与人性的平衡点，让每一次智能交互都能成为保护而非泄露信息的桥梁。🌍#ChatGPT安全风险 #技术伦理教育 #数据保密意识
🌟【保密警钟】半导体巨头警示！💡三位员工不慎泄露敏感信息，导致某星半导体业务陷入舆论漩涡。对企业来说，信息安全不容忽视。📚随后，企业以严肃态度向全体员工发出警告：若再次发生信息安全事故，ChatGPT将面临临时封锁。🛡️这不仅是对潜在风险的预防，也是对数据保护规定的严格执行。员工们需对此保持警惕，共同守护公司的网络环境。🌐
🌟警惕！ChatGPT信息安全隐患已引起国内行业关注🌟微软和亚马逊等全球知名企业也加入了警报行列，提醒员工切勿将公司敏感数据透露给这款人工智能助手。它潜在的泄露风险不容忽视，一旦这些信息被ChatGPT用于训练，未来模型可能会成为企业信息安全的新威胁。保护隐私，从自身做起！🛡️
🌟警惕！金融巨头联手抵制ChatGPT！💼担心数据泄露风险，全球知名金融机构如花旗、德意志、高盛和摩根大通已明确禁令，要求员工不得利用ChatGPT进行工作中的敏感信息处理。🔥1000+科技领袖和专家呼吁，暂停AI研发以优先讨论完善的数据安全法规！🔍AI与数据政策中心紧迫发声，向美国联邦贸易委员会（FTC）施压，强烈建议禁止OpenAI推出ChatGPT的商业升级版本。合规与创新并行，确保信息王国的安全与智能科技的健康发展。🛡️
二、ChatGPT泄露数据风险点位分析
中国支付清算协会以及上述各企业对于ChatGPT数据泄漏风险的担忧不无道理。ChatGPT的数据泄漏风险主要源于两部分，其一是ChatGPT本身的程序漏洞，其二是ChatGPT的工作原理。ChatGPT本身的程序漏洞可能会导致用户的聊天内容泄露。这类事故已经发生过数次，就在上个月末。有部分网友生成自己的ChatGPT聊天栏中出现了其他人聊天记录的标题，3月25日OpenAI发文证实是由于ChatGPT本身程序漏洞导致了泄露事故，OpenAI“已紧急修复该漏洞并向用户致歉”。事实上程序本身漏洞导致信息泄露并非“不可饶恕”，这些漏洞通常及时修补后就不会引起撼动ChatGPT根基的风波。而真正可能撼动ChatGPT根基的是后一种信息泄露风险点位，即ChatGPT的工作原理，实际上，ChatGPT的工作原理就注定了其在现阶段很难解决信息泄露的问题。
具体而言，传统的聊天软件通常会声称“本软件不会收集聊天记录、聊天信息也会点对点进行加密传输”，事实上绝大部分的聊天软件也都会做到这一点。但是这一点对于ChatGPT而言几乎不可能实现，原因在于ChatGPT这类大语言模型一定会收集用户的聊天内容，并将其用于后续算法训练，以使得自身进一步迭代成为更加高效的AI。因此，用户在与ChatGPT聊天的过程中提供的隐私内容，很可能会被ChatGPT收集，并成为其自身算法训练的素材，然后在其他场景中透露给别人。
于是”故事”（事故）就是这样产生的：某员工甲为图方便，将其单位的客户数据输入到ChatGPT中，希望ChatGPT根据数据生成相应的报告，其后这些客户数据就被ChatGPT收集并用作未来算法训练的素材。之后某商业间谍乙在使用ChatGPT时，询问ChatGPT某公司的客户数据大致是什么内容，ChatGPT立刻就将其在员工甲处“学习而来”的知识告诉了乙……
当然，现实的数据泄露情景更为复杂，本文仅是将其简化并以通俗易懂的方式呈现给读者，上述ChatGPT的工作原理在短时间内无法改变，实际上OpenAI已经在ChatGPT的使用指南中数次提醒用户输入ChatGPT聊天框的文本内容会被用于进一步训练模型，警告用户不要提交敏感信息，换言之，ChatGPT的工作原理就注定了其必定会触及到隐私数据保护、数据跨境传输等合规红线，而且这种“矛盾”似乎在短期内无法妥善解决。
三、企业引入AIGC服务的合规要点
接受新技术能够产生巨大的生产力变革，我们必须承认以ChatGPT为代表的AIGC、深度合成技术可能直接成为企业核心竞争力与吸引力的组成部分，对于AIGC、深度合成技术绝不能一禁了之，企业如何在现行的法律框架下发挥ChatGPT等工具的最大潜力，将会是企业合规新的难题。我国是最早对人工智能进行监管的国家之一，《互联网信息服务深度合成管理规定》已于今年1月10日施行。
在此之前《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中亦涉及到AIGC、深度合成等内容。根据我国目前有关AIGC、深度合成的法律合规框架，企业如果希望在服务中引入AIGC，应当至少关注以下几点内容：
1.与深度合成服务提供者或者技术支持者的协议条款，重点关注在使用AI方面有何限制，有何免责场景。
2.审查深度合成服务的提供作者与技术支持者是否履行了《互联网信息服务深度合成管理规定》中的合规任务。
3.就员工内部使用ChatGPT等AIGC工具，制定合规使用政策，要求使用相关服务的员工至少应当明确哪些内容不可以通过AIGC处理，以避免企业自身敏感信息泄露。
4.如企业引入的AIGC内容可能会向企业自身的客户披露，那就必须在对外服务时告知哪些内容是由AI生成的，应当警惕内容的风险，确保可能受影响人群的知情权。
四、写在最后
传统聊天软件的服务提供商通常不会收集聊天记录，聊天记录亦会点对点加密，但ChatGPT等AIGC却会不可避免地收集聊天内容用于后续的算法训练，以使自身“迭代进化”，用户提供的隐私信息很可能在这样的机制之下被披露给第三方，实际上AIGC正在慢慢改变隐私数据处理的边界与预期，这对企业合规、数据相关法律规范制定者、司法机关都是一个挑战，未来可能会涉及的数据合规尤其是数据出境等问题，可能仍需进一步探索与研究。
版权声明
本文仅代表作者观点，不代表零壹财经立场。
本文系作者授权零壹财经发表，未经许可，不得转载。
专题推荐：释放数据价值——数据要素市场研究
数据作为数字经济时代最核心、最具价值的生产要素，正加速成为全球经济增长的新动力、新引擎。近年来，我国深入布局数字经济战略，加快培育数据要素市场。 “释放数据价值：数据要素市场研究”专题聚焦数据的存储开发、开放共享、交易流通、综合治理以及安全防护，从参与主体、商业模式创新及监管动向等多维度研究数据要素市场发展趋势。（点击下图进入专题）
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
