🚀数据泄露风险？AI聊天机器人或带来企业法律危机？微软需警惕！

财联社4月19日讯（编辑 潇湘）年初以来，围绕ChatGPT等最新的人工智能聊天工具的投资热潮，可谓“一浪高过一浪”。不过随之产生的安全性、透明度和公平性等监管话题，也开始越来越受到人们的高度重视。虽然当前人工智能技术正掀起新一轮技术革命，但也引发了人们对潜在新型攻击和内容合规等安全风险的疑虑……

本周，以色列网络安全公司Team8在一份最新报告中就表示，使用ChatGPT等生成式人工智能工具的公司，可能会将客户信息和商业机密置于危险之中。

🌟【AI潜在威胁】🚀企业需警惕！随着AI聊天机器人和协作工具的普及，数据安全与法律风险成为新挑战。黑客可能利用这些智能工具窃取企业敏感信息，甚至发动精准攻击。更令人担忧的是，今日被AI“喂养”的机密，未来可能会落入不法之手。务必确保信息安全，防范AI带来的潜在危机。🛡️💻

🌟【全球知名】网络安全权威报告发布！💡Team8——以色列网络安全界的领航者，成立于2014年，由曾服务过以色列国防军精华部队的专家团队创立。这家公司专注于网络安全、数据分析及AI技术前沿，与包括巴克莱、微软、沃尔玛和思科在内的众多行业巨头建立了深度合作关系与战略投资。🌟

多类风险不容小觑

🌟🚀科技巨头竞相采用生成式AI革新聊天与搜索体验🔍💻微软与谷歌母公司Alphabet引领潮流，通过这项尖端技术，正深度改造着我们的日常互动工具——聊天机器人和搜索引擎。他们充分利用海量互联网数据来喂养AI模型，让这些智能系统能无缝地为用户提供全方位、个性化的服务解决方案。🌍🌐无论是在信息检索的瞬间，还是在与机器的简单对话中，生成式AI的力量正在悄然改变我们的数字生活。🏆

对此，Team8在报告表示，如果企业使用机密或私密数据来投喂这些工具，今后将很难删除相关信息。

🌟警惕！🚀企业采用AI聊天机器人虽便利，却潜藏风险！🔍据Team8分析，这些智能工具可能成为数据盗窃的隐形通道。👩‍💻用户随意输入的敏感信息、知识产权的密钥、核心代码或是商业策略，都可能在与机器互动时，不经意间落入他人之手。🛡️API接口更是安全漏洞的高发地带，黑客一旦攻破，后果不堪设想。企业应审慎选择并严格管理AI聊天系统的安全性，确保数据传输过程中的加密和权限控制。同时，员工也需要提高信息安全意识，勿将敏感信息直接暴露给机器人。唯有这样，才能在享受科技带来的效率提升的同时，有效保护企业的核心资产。💪

🌟【高风险警示】虽然Team8已将其当前面临的风险等级定为”严重级别”，但他们明智地指出，只要采取了充分的预防性策略，这并非无法驾驭。🛡️通过精准的管理与应对，有望将这一潜在威胁转化为可控制的领域。记得保持警惕，但也不必过分担忧。📚

Team8在报告中还强调，目前对聊天机器人的查询尚不会被输入大型语言模型中来训练AI，这与最近关于这些信息有可能被他人看到的报道相悖。不过，该报告也指出，在训练未来版本的大语言模型时，未必不会采取这种实时接入的方式。

🌟揭示潜在风险！💡整合型AI工具的”高危”挑战崭露头角，数据安全正遭受新兴的第三方应用威胁🔥。这份报告深入剖析，一针见血地指出，随着技术的进步，信息安全问题愈发复杂，亟待我们高度关注和应对。🛡️保护信息隐私，从理解并管理这些新型风险开始。

目前，微软已在其必应搜索引擎和Office 365工具中，嵌入了一些人工智能聊天机器人的功能。Team8报告表示，“目前在用户端，第三方应用正利用生成式人工智能的API，倘若他们遭到黑客攻击，就有可能丢失电子邮件和网络浏览器权限，攻击者还有可能冒充用户展开行动。”

报告还罗列了一些AI聊天工具存在的“中风险”问题，例如：使用人工智能有可能加剧歧视、损害公司声誉或导致企业遭遇侵权诉讼等。

多位权威人士为报告“背书”

根据媒体看到的信息，微软公司副总裁Ann Johnson参与起草了这份报告。微软已经向ChatGPT的开发者Open AI投资了数十亿美元。

微软发言人表示，“微软鼓励就安全和人工智能领域不断发展的网络风险进行透明讨论。”

此外，数十名美国公司的首席信息安全官也被列为这份报告的撰稿人。Team8的报告还得到了前美国国家安全局局长兼网络战司令部司令迈克尔·罗杰斯(Michael Rogers)的认可。

目前，ChatGPT聊天机器人的火爆已经引发了全球范围内监管呼声。不少国家的政府已担心，在人们试图利用这项技术提高效率时，这种创新也有可能会被用于不法行为。

美国联邦贸易委员会领导人周二就表示，ChatGPT等最新的人工智能工具可能导致诈骗行为激增，该机构将追究滥用人工智能技术来进行欺诈的公司。