ChatGPT：网络安全的新挑战？大众化的网络犯罪威胁还是防御利器？
🎉🚀ChatGPT引发了全球热议，AI内容创新引发安全忧虑！🔥💻随着OpenAI的ChatGPT横空出世，围绕其对内容创作潜在颠覆性的讨论热度持续攀升。网络安全专家们尤其关注，这股技术革新可能如何催化网络犯罪行为的泛滥风险。生成式人工智能（GANs）的崛起，无疑为不法分子提供了新的挑战和机会，引发了深度的道德与法律考量。🛡️💻面对这样的担忧，我们不能忽视ChatGPT带来的创新潜力，同时也需警惕其潜在的安全隐患。未来的内容创作将如何平衡艺术与防范？是时候深入探讨AI在内容安全领域的边界了。🔍🌐记得，每一次技术革新都是一次审视和适应的契机，让我们以开放的心态迎接这一人工智能时代的挑战与机遇吧！🌈💻
🌟 ChatGPT的安全挑战：网络安全的新挑战者？🛡️尽管安全专家已经开始探索如何利用ChatGPT进行代码审核和漏洞检测，这款人工智能语言模型无疑为网络攻击设下了新的门槛。它的普及降低了黑客入侵的便利性，带来了前所未有的复杂性。💻🔍然而，这也提出了一个关键问题——如何在保护隐私的同时，有效利用这一创新工具来强化网络安全防御？🤔ChatGPT的出现，无疑对现有的安全策略构成了考验，它既是挑战也是机遇。我们需要重新审视和调整我们的防御策略，以适应这个动态变化的技术环境。💻🛡️SEO优化提示：”ChatGPT与网络安全”, “AI时代下的网络防御”, “代码审核新方法”等关键词可能会有助于提升文章的相关性和搜索引擎排名。
网络犯罪的“大众化”
🎨💻🚀ChatGPT的兴起，网络安全领域迎来了一次创新与威胁并存的变革。它以强大的代码生成能力，为潜在的恶意活动打开了方便之门，任何人都可能成为潜在的“黑客艺术家”。🔥🛡️这不仅要求我们提升安全防护意识，对现有技术进行深度审计，还要警惕新型攻击手段的隐形演变。💻🛡️SEO优化提示：#ChatGPT网络安全 #恶意软件生成 #网络安全挑战
💻 Matt Psencik, a cybersecurity expert at Tanium, shares that “ChatGPT’s potential for assisting developers in coding isn’t limited to beneficial uses. Unfortunately, it has already been observed being employed maliciously, with instances where bots generate convincing phishing emails and aid in code reverse engineering to exploit unpatched zero-day vulnerabilities without reporting them to vendors.” 🕵️♂️ The tool’s versatility poses a cybersecurity challenge, highlighting the need for cautious adoption and continuous monitoring. #ChatGPTMalware #CybersecurityVulnerabilities #PhishingAlerts
🎨 ChatGPT的防护密钥：网络安全守护神🛡️Psencik揭示了一个关键事实——尽管ChatGPT以其创新和普及性备受赞誉，但它内置了强大的安全防线，专门针对潜在的非法滥用进行防范。就像一道无形的防火墙，它能敏锐地识别并阻止任何企图利用其功能从事犯罪活动的尝试。这不只是一层简单的过滤机制——ChatGPT通过拒绝生成涉及敏感操作的代码，如创建shell脚本，来有效防止恶意黑客的手法。不仅如此，它还会对那些潜在危害的关键词进行标记，比如网络钓鱼陷阱，确保任何试图绕过防护的请求都无所遁形。这种自我保护能力就像在代码中嵌入了“犯罪检测器”，让ChatGPT不仅能提供帮助，还能保障用户的隐私和网络安全。它的存在，无疑为我们的在线交流环境增添了一层额外的安全保障。
虽然现有的防护机制在一定程度上确保了网络安全，但其有效性却面临着挑战。因为这些系统过于依赖AI去检测潜在的恶意代码尝试，而狡猾的黑客可能会通过变换提问方式来逃避监控。换句话说，用户有可能通过细微的语义调整，让AI的防御措施失效。这就需要我们在技术与安全之间寻找更精准的平衡，不断提升我们的反恶意策略以适应不断演变的威胁。
如何使用ChatGPT创建勒索软件和钓鱼邮件
虽然ChatGPT发布时间不长，但安全研究人员已经开始测试它生成恶意代码的能力。例如，Picus Security的安全研究员和联合创始人Suleyman Ozarslan博士最近不仅使用ChatGPT创建了网络钓鱼活动，还为MacOS创建了勒索软件。
Ozarslan介绍称，“我们从一个简单的练习开始，看看ChatGPT是否能创建一个可信的网络钓鱼活动，结果证明确实如此。我输入了一个提示，要求其写一封世界杯主题的电子邮件，用于网络钓鱼模拟，结果它在短短几秒钟内就用完美的英文创建完成了一封。”
在这个例子中，Ozarslan声称自己是一家攻击模拟公司的安全研究员，希望开发一个网络钓鱼攻击模拟工具，便“说服”AI生成了一封网络钓鱼电子邮件。
虽然ChatGPT意识到“钓鱼攻击可以用于恶意目的，并可能对个人和企业造成伤害”，但它仍然生成了这封电子邮件。
完成初次尝试后，Ozarslan又要求ChatGPT为Swift编写代码，Swift可以找到MacBook上的微软Office文件，并通过HTTPS将其发送到网络服务器，然后对MacBook上的Office文件进行加密。该解决方案的响应是生成示例代码，而没有提供任何警告或提示。
Ozarslan的研究实践表明，网络犯罪分子可以很轻松地绕过OpenAI的保护机制，要么把自身伪装为研究人员，要么混淆他们的恶意意图。
网络犯罪的上升使天平失衡
虽然ChatGPT确实为安全团队带来了积极的好处，但通过降低网络犯罪分子的进入门槛，它有可能加速(而非减少)威胁环境的复杂性。
例如，网络犯罪分子可以利用人工智能来增加在野网络钓鱼威胁的数量，这不仅会进一步加剧安全团队的负担，而且只需成功一次就可能引发大规模数据泄露，造成数百万美元的经济损失和无法挽回的声誉损失。
电子邮件安全提供商IRONSCALES的研发副总裁Lomy Ovadia表示，“在网络安全方面，ChatGPT可以为攻击者提供比目标更多的东西。对于商业电子邮件妥协(BEC)来说尤为如此，因为这种攻击依赖于使用欺骗性内容来冒充同事、公司VIP、供应商甚至客户。”
Ovadia认为，如果CISO和安全领导者依靠基于策略的安全工具来检测AI/GPT-3生成内容的钓鱼攻击，那么他们将注定失败，因为这些AI模型使用先进的自然语言处理(NLP)来生成几乎不可能与真实例子区分开来的诈骗电子邮件。
例如，今年早些时候，新加坡政府技术机构的安全研究人员创建了200份钓鱼邮件，并将其点击率与深度学习模型GPT-3创建的邮件进行了比较，结果发现更多的用户点击了人工智能生成的钓鱼邮件，而非人类用户生成的邮件。
好消息是什么?
虽然生成式AI确实给安全团队带来了新的威胁，但它也提供了一些积极的用例。例如，分析人员可以使用该工具在部署前审查有漏洞的开源代码。
HackerOne公司解决方案架构师Dane Sherrets表示，“今天，我们看到很多道德黑客正在使用现有的人工智能技术来帮助编写漏洞报告，生成代码样本，并识别大型数据集的趋势。这一切都表明，今天人工智能最好的应用是帮助人类做更多造福人类的事情。”
然而，试图利用生成式人工智能解决方案(如ChatGPT)的安全团队仍然需要确保充分的人力监督，以避免潜在的问题。
Sherrets补充道，“ChatGPT所代表的进步令人兴奋，但技术还没有发展到完全自主运行的程度。要让人工智能发挥积极作用，还需要人力监督以及进行一些手动配置，不能总是依靠绝对最新的数据和情报来运行和训练。”
正是出于这个原因，Forrester建议实现生成式人工智能的企业应该部署工作流和治理，来管理人工智能生成的内容和软件，以确保其准确性，并降低发布具有安全性或性能问题的解决方案的可能性。
不可避免的是，生成式AI和ChatGPT的真正风险将取决于安全团队或威胁行为者是否在AI攻防大战中更有效地利用自动化。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
