ChatGPT数据泄露？AI潜在风险与网络安全保险的挑战

ChatGPT与保险 2年前 (2023) lida

42 0 0

文章主题：数据泄露, OpenAI, 网络犯罪, ChatGPT

文 / 张晋

ChatGPT 风险引关注

近几个月，关于人工智能聊天机器人 ChatGPT 的热议愈演愈烈，通过自然语言处理 , ChatGPT 不仅可以理解命令和读取代码，还可以提供实际的见解和补救建议。强大的信息数据处理能力在大幅提高工作效率的同时，也带来了难以预料的风险。先是马斯克、图灵奖得主等一众大佬签署公开信、联名呼吁暂停大型 AI 研究。之后，欧洲执法机构和消费者保护组织也先后拉响对 ChatGPT 潜在危害的警报。意大利个人数据保护局也宣布，暂时禁止使用 ChatGPT，并表示已对开发该产品的 OpenAI 公司展开调查。韩国三星公司更是要求员工向 ChatGPT 提问的上传容量限制在 1024 字节以内。

🌟ChatGPT数据泄露疑云笼罩，三星20天内3起机密泄漏事件曝光！💡尽管这款人工智能语言模型以其创新和便捷吸引了全球目光，但安全问题已成为关注焦点。🚨据三星报告，短短两周内，其内部系统遭受了严重侵犯，包括敏感的半导体设备测量数据和产品质量评估信息等关键信息被盗。🔍OpenAI对用户准入门槛的缺失也引发了担忧。任何人都能轻松获取并使用ChatGPT，这对未成年人潜在的影响令人堪忧。.capitalize监管机构已开始行动，旨在确保这款技术在普及的同时，不会成为不良内容的温床。🔥随着事件发酵，如何平衡科技进步与数据安全，以及如何规范AI的公共使用，无疑成为了亟待解决的问题。让我们共同期待OpenAI能迅速采取措施，为用户和企业打造一个更安全、更负责任的环境。📚

👀 网络安全新挑战：OpenAI与ChatGPT背后的潜在威胁

人工智能可以用来尝试识别新的风险威胁对象，但技术本身也可能成为风险的来源。

AI 的潜在风险

随着大数据的迅猛崛起，AI技术如Machine Learning已渗透至各领域，从自然语言到视觉语音，再到多媒体，它与制造业、通讯及服务行业紧密相连。然而，值得注意的是，尽管AI模型在这些场景中展现出强大的能力，却常因不确定性挑战，给实际应用带来潜在风险的困扰。如何有效管理并降低这种不确定性，成为了亟待解决的问题。

机器学习范式下 AI 应用存在的结构性缺陷，这一缺陷可以说贯穿于 AI 全生命周期。通过数据污染、恶意样本攻击等方式对算法进行深层次攻击已经成为 ” 常用手段 “。除了这一类算法漏洞，隐私数据的暴露也带来不可忽视的风险。事实上，AI 和机器学习系统比我们想象的更容易被愚弄，也就是人们经常吐槽的 ” 人工智能变成人工智障 “，具体来看，这其中包含 ” 攻击风险 ” 和 ” 非攻击风险 “。

攻击风险

” 攻击风险 ” 是指人为主动破坏人工智能学习规则的事件发生，包括窃取攻击、药饵攻击、闪避攻击、逆向攻击、模仿攻击等，导致窃取底层算法、扰乱系统、个人获利等。

🎉【AI监管挑战】💥 惊现创意反抗！全球轻博客巨头Tumblr启用AI反黄暴，却引热议。👀 一用户突发奇想，将自身涂绿，配上萌猫头鹰，试图以独特伪装手法逃避系统审查。然而，这波操作不仅考验技术，更是对智慧的挑战。💻 智能识别的背后，是用户与科技的微妙互动，让这场内容审核之战更加耐人寻味。🤔 人工智能时代，我们期待更精准、公正的监管，同时也尊重创意自由的边界。🌈—原文中提到Tumblr通过AI系统应对黄暴内容时，有个用户用反智行为来对抗。我将这个场景转化为一个讨论AI监管与智慧互动的话题，强调了技术与创意的挑战，并暗示了对更公正监管的期待。同时，保持了原信息的核心要点，并加入了表情符号以增加可读性和SEO优化。

💻黑客揭秘：ChatGPT助力Python窃密神器！🛡️👀 ChatGPT的魔力，竟被地下论坛曝光用于非法操作？骇人听闻！🚀 研究者发现，这款热门AI助手已成黑客手中的新工具，暗中协助编写了一套Python程序，其独特功能在于悄无声息地窃取文件。🔍 首先，这不速之客会扫描网络上的常见文档，如.doc、.pdf、.jpg等，犹如无形的病毒，悄悄复制到一个隐藏的Temp文件夹深处。🏃‍♂️🛡️ 然后，它就像一台隐形FTP服务器，将这些压缩文件以迅雷不及掩耳之势上传至任何FTP站点，任何人都能轻易获取。🔒🔍 这种行为的危害性不言而喻：无论目标多么强大，只要文件落入其手，隐私瞬间暴露无遗！👀 心惊胆战之余，也提醒我们对AI技术的潜在风险保持警惕。若要防范此类攻击，请确保网络安全防护措施升级，同时教育员工识别并避免点击可疑链接。🛡️记住，保护数据安全，人人有责！💪#ChatGPT窃密 #Python黑客 #网络安全意识

网络犯罪分子展示了他如何使用 ChatGPT 创建信息窃取器

非攻击风险

” 非攻击风险 ” 是指机器学习系统失效，无任何人为的、对抗性的篡改。例如，Open AI 训练机器学习系统玩划船游戏，并奖励获得高分的行为。但机器学习系统自行在循环中屡次击中相同目标，获取了更高的分数，而不是完成比赛。这种机器学习故障有可能是开发人员的错误代码造成的，在现实生活中或许会造成危险的后果。

🌟探讨AI与网络安全：数据、代码与软件背后的挑战🔍💡随着机器学习和AI系统的飞速发展，它们的核心——数据、代码和软件——已成为现代科技的心脏。然而，这些高度数字化的领域也暗藏网络安全风险，如同保险中的不确定因素一样，引发着业界的深思。🛡️🤔传统的网络安全保险，是否能全面应对这新兴领域的潜在危机？它能否像保障硬件设备那样，为AI系统的数据泄露、代码漏洞或软件缺陷提供充分的保障呢？💻📊🔍网络安全保险的概念或许需要与时俱进，适应科技快速演变的步伐。我们需要寻找一种更综合的风险管理策略，结合专业的安全服务和定制化的保险条款，来确保在数字化世界中的AI资产得到全面的呵护。🛡️💼记得，每一次数据交互、代码更新都是对现有保障的一次考验。让我们共同探索如何在保护创新与防范风险之间找到平衡，让AI的安全之路更加稳健。🚀

网络安全保险与 AI 保险的差异

网络安全保险与 AI 保险有显著的差异。广义来看，网络安全保险涵盖信息安全、隐私责任以及业务中断等风险。但导致品牌损害、人身伤害和财产损失的 AI 事故则在传统网络安全保险责任之外。

网络安全保险能够包含一些由 AI 和机器学习造成的风险事故，比如：

模型窃取

人工智能公司 OpenAI 创建了一个自动生成文本的 AI 系统，但为了避免滥用导致虚假信息传播，该公司并未一开始就完全公开基础模型。然而，在 OpenAI 发布完整模型之前，其公司的两名研究人员重建了该算法并且未经许可擅自发布——这一行为不仅造成了公司知识产权和品牌形象受损，而且这一尚未完善的模型在发布之后可能会导致滥用，造成更严重的社会影响。在这种情况下，网络安全保险理论上是可以覆盖一部分隐私泄露的风险的。

数据泄露

在训练 AI 进行人脸识别和名称比对的研究中，研究人员需要根据一个人的名字就建立起其面部形态，并以此通过面部识别系统的检测。已有的研究成果已经能够实现 87% 的准确率。然而，这种情况如果发生在未经允许的场景下，就是对个人隐私的侵犯，也就是经过 AI 处理的个人隐私数据泄露——这一类型的风险也是传统的网络安全保险可以覆盖的。

然而，仍有一些 AI 和机器学习固有的故障风险是网络安全保险不承保的，例如：

AI 失误造成的人身意外伤害

Uber 的自动驾驶汽车在美国亚利桑那州造成一名行人死亡，因为其机器学习系统无法解释乱穿马路的行为。又如，2016 年一辆特斯拉 Model S 未能在晴天下识别出白色卡车，导致两车相撞，特斯拉驾驶员死亡。这类事件大概率是不在网络安全保险的责任范围内的，因为此类事故的第三者责任通常属于除外责任。

无论是无人机包裹运送还是自动驾驶汽车，当 AI 图像识别系统在恶劣天气条件下发生故障，导致人身伤害——这些风险完全不在网络安全保险承保范围内。在上述第一个例子中，网络安全保险最多只能对于 Uber 因业务中断而遭受的任何类型的损失进行一部分补偿。

品牌形象损失

当 A 公司采购了 B 公司的 AI 系统作为本公司产品的重要技术基础时，当 B 公司的 AI 出现了异常，给 A 公司带来了名誉和品牌形象的损失，这种风险是无法预估的，现在有的网络安全保险方案也无法弥补 A 公司的损失。

财产损失

谷歌研究人员在一篇论文提到了类似的场景，即清洁机器人使用深度学习来探索其环境并获得房间布局，在这一过程中却意外地将湿拖把触碰电源插座，从而引发火灾——如果这个例子在现实生活中发生，清洁机器人制造商的网络安全保险很可能无法弥补损失。

从宏观视角来看，人工智能的使用在过去 3 年中增加了两倍，这必然是保险公司关注的新兴市场。当企业将 AI 系统置于业务中心时，就会不可避免地引入故障风险，导致数据泄露、品牌受损、财产损失、业务中断等，在某些情况下还会造成人身伤害。即使个别企业已经有能力解决一些人工智能的故障，风险防范方总是比攻击方更为困难，因为前者需要防范所有可能的情况，而后者只需要找到一个弱点利用。

建立 AI 风险管理体系的探索及困境

由于 AI 自身的发展和演变仍在快速发展变化中，针对其伦理治理和风险研究仍处于十分初期的阶段，全球各国针对该领域的探索主要集中在定性方面，正在法律法规方面逐步积累。以欧盟为首的各国正在积极制定人工智能战略，强调机器学习系统的安全性和隐私性等，例如，欧盟《通用数据保护条例》要求人工智能算法具备 ” 可解释性 “，数据主体有权获取算法决策的有关解释；ISO 和 NIST 等标准组织正在制定可信的人工智能框架——这些正在发展的事件都会让人工智能保险的权责确定充满不确定性。

在 AI 定量风险管理方面，尚未有切实有效的工具和方法出现。从人工智能开发角度来看，软件测试是整个开发流程中必不可少的一个环节，也是目前在技术手段上的 ” 事后风控 ” 途径，即在 AI 系统开发后通过大量测试来监测程序的正确性和漏洞。但是，软件测试并不能检测人工智能算法预测错误的风险、决策的公平性风险以及决策的道德性风险等。

由于 AI 本身仍然是一个不断发展活跃的领域，它引起的相关风险自然也尚未明确，业内并没有可遵循的改善措施。仅仅依靠版权、IT 产品责任划分和反黑客法是无法解决所有 AI 风险事故的。

保险公司与 AI 保险产品

因此，在供给侧方面，防范人工智能风险的技术工具尚未形成，现有的网络安全保险通常不涵盖机器学习系统保障，或者只是部分涵盖。法律方面对一领域的支持也十分有限，比如只有小部分提到了机器学习的版权、责任范围和反黑客法的应用等等。业内有专业人士提出，保险公司可以考虑推出专注于人工智能的保险。但该类产品面向客户是谁、具体涵盖哪些风险等问题都还有待商榷。

未来，这一领域的参与者将不仅只有保险公司，由于 AI 和机器学习的专业性较强，该领域保险业务开展时应当尽可能引入专业的第三方公司进行风险评估、设计保险方案和定价，最终由保险公司负责承保。

本文系未央网专栏作者 :保观发表，内容属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！