🔥ChatGPT投资热潮背后的AI安全风险？揭秘数据泄露、黑客攻击与合规挑战！你需要知道的一切..

ChatGPT与保险 1年前 (2023) lida

57 0 0

文章主题：ChatGPT, 数据安全, AI监管

📈年初以来，ChatGPT等AI聊天工具的投资狂潮持续升温，引领了科技界的热议风暴！然而，随之而来的监管焦点——安全性、透明度与公平性，也日益凸显。🚀人工智能的进步虽推动革新，却引发了对潜在安全威胁和内容合规的深度忧虑。💻在这个数字化时代，确保技术的安全使用和公正运营至关重要，以防止任何可能的滥用和风险。

本周，以色列网络安全公司Team8在一份最新报告中就表示，使用ChatGPT等生成式人工智能工具的公司，可能会将客户信息和商业机密置于危险之中。

🌟【AI潜在威胁】🚀企业需警惕！随着AI聊天机器人和协作工具的普及，数据安全与法律风险悄然升级。👀黑客可能利用这些智能工具窃取企业敏感信息，甚至进行精准攻击。💼保密信息在与机器互动中流转，未来AI公司若滥用，后果不堪设想。合规操作，保护信息安全，刻不容缓！🛡️

🌟【全球知名】网络安全权威报告发布——Team8🌟，成立于2014年，由以色列国防军的精英团队“8200”出身，专攻网络安全、数据分析及AI技术。这家公司深受业界巨头如巴克莱、微软、沃尔玛和思科等信赖与投资，实力不容小觑。欲了解更多前沿动态，敬请关注！🌍💻

多类风险不容小觑

🌟🚀科技巨头竞相采用生成式AI革新聊天与搜索体验🔍💻微软与谷歌母公司Alphabet引领潮流，通过这项尖端技术，正深度改造着我们的日常互动工具——聊天机器人和搜索引擎。他们充分利用互联网海量数据的宝藏，对AI模型进行深度训练，让每位用户都能享受到无缝、全方位的服务解决方案。🌍🌐让科技更贴近生活，为未来智能化生活打下坚实基础！🌟

对此，Team8在报告表示，如果企业使用机密或私密数据来投喂这些工具，今后将很难删除相关信息。

🌟警惕！🚀企业采用AI聊天机器人虽便利，却潜藏风险🔍。据Team8分析，这些工具可能成为数据泄露的薄弱环节，敌手只需轻轻一触，敏感信息、知识产权、核心代码和商业秘密就可能被盗取。途径多样：用户直输或API接口，都可能成为黑客的目标。保护信息安全，企业绝不能掉以轻心！🛡️加强安全措施，确保技术与谨慎并行，才能在数字化时代立于不败之地。

🌟【高风险警示】虽然Team8已将其当前面临的风险等级定为”严重级别”，但他们明智地指出，通过精准的预防策略，这完全可以转化为”可管理”的挑战。🛡️

Team8在报告中还强调，目前对聊天机器人的查询尚不会被输入大型语言模型中来训练AI，这与最近关于这些信息有可能被他人看到的报道相悖。不过，该报告也指出，在训练未来版本的大语言模型时，未必不会采取这种实时接入的方式。

该报告还标记了另外几项与整合生成式人工智能工具有关的“高风险”问题，并强调了信息正越来越多地面临通过第三方应用程序共享的威胁。

目前，微软已在其必应搜索引擎和Office 365工具中，嵌入了一些人工智能聊天机器人的功能。Team8报告表示，“目前在用户端，第三方应用正利用生成式人工智能的API，倘若他们遭到黑客攻击，就有可能丢失电子邮件和网络浏览器权限，攻击者还有可能冒充用户展开行动。”

报告还罗列了一些AI聊天工具存在的“中风险”问题，例如：使用人工智能有可能加剧歧视、损害公司声誉或导致企业遭遇侵权诉讼等。

多位权威人士为报告“背书”

根据媒体看到的信息，微软公司副总裁Ann Johnson参与起草了这份报告。微软已经向ChatGPT的开发者Open AI投资了数十亿美元。

微软发言人表示，“微软鼓励就安全和人工智能领域不断发展的网络风险进行透明讨论。”

此外，数十名美国公司的首席信息安全官也被列为这份报告的撰稿人。Team8的报告还得到了前美国国家安全局局长兼网络战司令部司令迈克尔·罗杰斯(Michael Rogers)的认可。

目前，ChatGPT聊天机器人的火爆已经引发了全球范围内监管呼声。不少国家的政府已担心，在人们试图利用这项技术提高效率时，这种创新也有可能会被用于不法行为。

美国联邦贸易委员会领导人周二就表示，ChatGPT等最新的人工智能工具可能导致诈骗行为激增，该机构将追究滥用人工智能技术来进行欺诈的公司。（财联社）

延伸阅读：建立AI风险管理体系的探索及困境

由于AI自身的发展和演变仍在快速发展变化中，针对其伦理治理和风险研究仍处于十分初期的阶段，全球各国针对该领域的探索主要集中在定性方面，正在法律法规方面逐步积累。以欧盟为首的各国正在积极制定人工智能战略，强调机器学习系统的安全性和隐私性等，例如，欧盟《通用数据保护条例》要求人工智能算法具备“可解释性”，数据主体有权获取算法决策的有关解释；ISO和NIST等标准组织正在制定可信的人工智能框架——这些正在发展的事件都会让人工智能保险的权责确定充满不确定性。

在AI定量风险管理方面，尚未有切实有效的工具和方法出现。从人工智能开发角度来看，软件测试是整个开发流程中必不可少的一个环节，也是目前在技术手段上的“事后风控”途径，即在AI系统开发后通过大量测试来监测程序的正确性和漏洞。但是，软件测试并不能检测人工智能算法预测错误的风险、决策的公平性风险以及决策的道德性风险等。

由于AI本身仍然是一个不断发展活跃的领域，它引起的相关风险自然也尚未明确，业内并没有可遵循的改善措施。仅仅依靠版权、IT产品责任划分和反黑客法是无法解决所有AI风险事故的。（和讯网）

添加乾通嗖嗖企业vx，ID：qiantongsousou1。邀请你参与2万+HR正在学习的行业干货，小黄鸭带你高效工作还不累