ChatGPT：改变世界的强大工具？科技公司竞相布局，安全专家该如何应对？
文章主题：ChatGPT, AI工具, 安全威胁
🔥【ChatGPT震撼登场】🚀 人工智能新巨头OpenAI的力作ChatGPT引发了全球热议，它以超乎想象的能力颠覆了我们的交流模式！🌍 每个角落都在谈论这个革命性的聊天伙伴，它正悄悄地重塑世界，让科技触手可及。💻ChatGPT的强大之处在于它的智慧与灵活性，仿佛拥有个人思维，让人惊叹不已。它不仅能够流畅对话，还能生成代码、撰写论文，成为知识的高效助手。📚 从教育到职场，其潜力无限，引领未来趋势。💼尽管如此，我们也要理性看待，它并非万能，人类的独特价值和情感交流依然不可或缺。让我们共同探索这个新世界的边界，享受科技带来的便利，同时保持对人性的深深尊重。🤝SEO优化提示：使用相关关键词如”ChatGPT、人工智能、交流模式、重塑世界、知识助手、教育职场、未来趋势、理性看待、人性尊重”等。
🎓💻学生时代的新挑战？ChatGPT掀起论文写作新风尚！🔍ChatGPT的强大功能已让教育界瞠目结舌——不仅在法商学院考试中大放异彩，成功通过执照考核，它还以惊人的效率横扫职场，协助撰写各类文档。从商业报告到医疗代码，无所不能的AI助手正悄悄改变学习模式！💼💻面对如此高效且全能的学习工具，大学生们怎能不心动？论文写作不再是难题，而是创新与智慧的碰撞！🎓📈未来学术路上，ChatGPT或许会成为得力伙伴，但请记住，真正的深度和独特见解仍需我们亲手耕耘。👩🏫🌱
🌟ChatGPT虽非完美，数据更新仍有待，但它无疑是AI领域的巨擘，相较于过往个人所用的任何工具，其实力无人能及。用户界面亲民，操作体验超越了商业级系统的僵化人工智能。🚀尽管如此，我们期待它在不断迭代中完善，为用户提供更卓越的服务。
🌟当ChatGPT这类大型语言模型不断壮大，数据、参数与层次的积累达到一定程度时，惊奇的转变随之而来。它的”超能力”在小规模模型中并不那么显眼或难以想象，仿佛具备了一种潜在的智慧和对世界的深刻理解。换句话说，它展现出一种接近常识和世界认知的朦胧特质。🚀
🌟微软大手笔！100亿砸向OpenAI，+Bing拥抱ChatGPT引领搜索新潮流🔥。昔日巨头重燃热情，打破行业静默，科技巨头们争相创新，掀起一股智能浪潮。这不仅仅是技术的进步，更是未来趋势的明确信号，让我们期待搜索引擎如何突破界限，引领数字化变革！🔍
🌟谷歌大动作！🚀推出AI聊天机器人项目，引领行业新潮流！💡与备受瞩目的OpenAI对手Anthropic携手，这家由前任OpenAI精英打造的创新企业，以其旗下明星聊天机器人Claude，再次震惊科技界！👨💻👩💻 Anthropic凭借其独特技术及人才储备，成为谷歌关注的焦点。这次投资不仅仅是商业策略，更是对未来人工智能对话体验的深度追求。🌟投资的背后，透露着谷歌对AI技术革新的决心和对用户无缝沟通愿景的坚定信念。🌍Claude，这位拥有先进学习能力的聊天伙伴，正逐步成为连接人与机器的新桥梁。通过Anthropic的引领，我们期待看到更多创新且人性化的AI交互体验。💡未来已来，让我们共同见证科技如何赋予生活更智能、便捷的对话方式！🎉
亚马逊宣布计划建立自己的ChatGPT竞争对手，并宣布与另一家人工智能初创公司Hugging Face建立合作伙伴关系。Facebook的Meta也将快速跟进自己的AI工作计划。
与此同时，幸运的是，安全专家也可以使用这项新技术。他们可以将其用于研究、帮助编写电子邮件和报告、帮助编写代码，以及我们将深入研究的更多方式。
但令人不安的是，坏人也将它用于所有这些事情，以及网络钓鱼和社会工程。他们还使用ChatGPT来帮助他们以几个月前无法想象的规模和保真度来制造深度造假。ChatGPT 本身也可能是一种安全威胁。
接下来，让我们讨论这些AI工具可能对数据中心带来的安全主题，从恶意行为者可能使用的方式开始，在某些情况下，他们已经在使用ChatGPT。然后，我们将探讨网络安全专业人员使用ChatGPT 等人工智能工具的好处和危险。
坏人如何使用 ChatGPT
毫无疑问，恶意行为者已经在使用ChatGPT。那么，ChatGPT将如何用于帮助刺激网络攻击呢。在2 月份发布的黑莓 IT 领导者调查中，53% 的受访者表示它将帮助黑客创建更可信的网络钓鱼电子邮件，49%的受访者指出它有能力帮助黑客提高他们的编码能力。
调查的另一项发现：49%的IT和网络安全决策者表示，ChatGPT将用于传播错误信息和虚假信息，48%的人认为它可用于制作全新的恶意软件。另有46%的受访者表示ChatGPT可以帮助改善现有攻击。
Constellation Research副总裁兼首席分析师Dion Hinchcliffe表示：“我们看到编码人员，甚至是非编码人员使用ChatGPT生成可以有效利用的漏洞。”
毕竟，人工智能模型已经阅读了所有公开发表的内容。包括“每一份研究漏洞报告，”Hinchcliffe说，“所有安全专家的每一次论坛讨论。它就像一个超级大脑，可以用各种方式破坏系统。”
这是一个可怕的前景。
而且，当然，攻击者也可以用它来写作，他补充说。“我们将被来自各地的错误信息和网络钓鱼内容所淹没。”
ChatGPT如何帮助数据中心安全专家
对于使用ChatGPT的数据中心网络安全专业人员而言，云安全联盟首席执行官Jim Reavis表示，他在过去几周内看到了一些令人难以置信的AI工具病毒式实验。
“你可以看到它为安全编排、自动化和响应工具、DevSecOps和一般云容器卫生编写了大量代码，”他说。“ChatGPT生成了大量的安全和隐私政策。也许，最值得注意的是，为了创建高质量的钓鱼电子邮件，我们进行了很多测试，希望使我们的防御在这方面更具弹性。”
此外，Reavis 说，几家主流网络安全供应商在他们的引擎中已经或将很快拥有类似的技术，并根据特定规则进行训练。
“我们之前也看到过具有自然语言界面功能的工具，但还没有一个广泛开放的、面向客户的ChatGPT界面，”他补充道。“我希望很快能看到与ChatGPT接口的商业解决方案，但我认为现在的最佳点是多种网络安全工具与ChatGPT的系统集成以及公共云中的DIY安全自动化。”
他表示，总的来说，ChatGP 及其同行很有希望帮助数据中心网络安全团队更高效地运作，扩大受限资源并识别新的威胁和攻击。
“随着时间的推移，几乎所有网络安全功能都将通过机器学习得到增强，”Reavis说。“此外，我们知道恶意行为者正在使用诸如ChatGPT之类的工具，并且假设您将需要利用A 来对抗恶意AI。”
电子邮件安全供应商如何使用 ChatGPT
例如，电子邮件安全供应商Mimecast已经在使用大型语言模型生成合成电子邮件来训练自己的网络钓鱼检测AI工具。
“我们通常使用真实的电子邮件来训练我们的模型，”Mimecast首席数据科学家兼机器学习工程师洛佩兹（Jose Lopez）说。
为训练集创建合成数据是ChatGPT等大型语言模型的主要优势之一。“现在我们可以使用这种大型语言模型来生成更多电子邮件，”洛佩兹说。
不过，他拒绝透露Mimecast使用的是哪种特定的大型语言模型。他说这些信息是公司的“秘密武器”。
不过，Mimecast目前并不打算检测传入的电子邮件是否由ChatGPT生成。那是因为使用ChatGPT的不仅仅是坏人。AI是一种非常有用的生产力工具，许多员工正在使用它来改进他们自己的、完全合法的通信。
例如，洛佩兹本人是西班牙人，现在正在使用ChatGPT而不是语法检查器来改进自己的写作。
Lopez还使用ChatGPT来帮助编写代码——许多安全专业人员可能正在做的事情。
“在我的日常工作中，我每天都使用 ChatGPT，因为它对编程真的很有用，”洛佩兹说。“有时它是错误的，但它经常是正确的，足以让你对其他方法敞开心扉。我不认为ChatGPT会将没有能力的人转变为超级黑客。”
人工智能驱动的安全工具的兴起
OpenAI已经开始致力于提高系统的准确性。微软通过Bing Chat使其能够访问网络上的最新信息。
Lopez补充说，下一个版本将在质量上有一个巨大的飞跃。此外，ChatGP 的开源版本即将推出。
“在不久的将来，我们将能够针对特定的事物微调模型，”他说。“现在你不只是有一把锤子——你有一整套工具。”
例如，企业可以微调模型以监控社交网络上的相关活动并寻找潜在威胁。只有时间才能证明结果是否比目前的方法更好。
将ChatGPT添加到现有软件也变得更容易、更便宜；3 月 1 日，OpenAI发布了一个API，供开发人员访问 ChatGPT 和语音转文本模型Whisper。
一般来说，企业正在迅速采用人工智能驱动的安全工具来应对比以往任何时候都更大规模的快速演变的威胁。
根据最新的Mimecast 调查，92%的企业已经在使用或计划使用人工智能和机器学习来加强其网络安全。
特别是，50%的人认为使用它可以更准确地检测威胁，49%的人认为可以提高阻止威胁的能力，48%的人认为可以在发生攻击时更快地进行补救。
81%的受访者表示，向电子邮件和协作工具用户提供实时、上下文警告的人工智能系统将是一个巨大的福音。
报告称：“12%的人甚至表示，这种系统的好处将彻底改变网络安全的实施方式。”
Omdia网络安全实践高级分析师Ketaki Borade表示，像ChatGPT这样的人工智能工具也可以帮助缩小网络安全技能短缺的差距。“如果正确提供提示，使用此类工具可以加快更简单的任务，并且有限的资源可以专注于更具有时间敏感性和高优先级的问题。”
“这些大型语言模型是一种根本性的范式转变，”IEEE成员、Applied Science Group创始人兼首席执行官 Yale Fox说。“反击恶意AI驱动攻击的唯一方法是在防御中使用AI。数据中心的安全经理需要提高现有网络安全资源的技能，并寻找专门从事人工智能的新人员。”
在数据中心使用ChatGPT的危险
如前所述，ChatGPT和Copilot等人工智能工具可以帮助安全专业人员编写代码，从而提高他们的效率。但是，根据康奈尔大学最近的研究，使用 AI 助手的程序员更有可能创建不安全的代码，同时认为它比那些没有使用的人更安全。
在不考虑风险的情况下使用ChatGPT的潜在缺点时，这只是冰山一角。
有几个广为人知的ChatGPT或Bing Chat实例，它们非常自信地提供不正确的信息，编造统计数据和引述，或者对特定概念提供完全错误的解释。
盲目信任它的人最终可能会陷入非常糟糕的境地。
“如果你使用ChatGPT开发的脚本对10000台虚拟机进行维护并且脚本存在错误，你将遇到重大问题，”云安全联盟的Reavis说。
数据泄露风险
数据中心安全专业人员使用ChatGPT的另一个潜在风险是数据泄露。
OpenAI让ChatGPT免费的原因是它可以从与用户的交互中学习。因此，例如，如果您要求ChatGPT分析您的数据中心的安全状况并找出薄弱环节，那么您现在已经向ChatGPT传授了您的所有安全漏洞。
现在，考虑一下面向工作的社交网络Fishbowl 在 2 月份进行的一项调查，该调查发现 43% 的专业人士在工作中使用 ChatGPT 或类似工具，高于一个月前的 27%。如果他们这样做，70%的人不会告诉他们的老板。因此，潜在的安全风险很高。
据报道，这就是摩根大通、亚马逊、Verizon、埃森哲和许多其他公司禁止其员工使用该工具的原因。
OpenAI本月发布的新ChatGPT API将允许企业将其数据保密并选择不将其用于训练，但不能保证不会发生任何意外泄漏。
将来，一旦ChatGPT的开源版本可用，数据中心将能够在其防火墙后、在本地运行它，避免可能暴露给外部人员。
伦理问题
最后，Insight的杰出工程师Carm Taglienti表示，使用ChatGPT式技术来保护内部数据中心安全存在潜在的道德风险。
“这些模型非常擅长理解我们作为人类的交流方式，”他说。因此，可以访问员工通信的 ChatGPT 式工具可能能够发现表明潜在威胁的意图和潜台词。
“我们正在努力防止网络黑客攻击和内部环境黑客攻击。许多违规行为的发生是因为人们带着东西走出门外，”他说。
他补充说，像 ChatGPT 这样的东西“对一个组织来说可能非常有价值”。“但现在我们正在进入这个道德领域，人们将在这个领域对我进行介绍并监控我所做的一切。”
这是数据中心可能还没有准备好迎接少数派报告式的未来。
编 辑：路金娣
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
