文章主题：AI聊天机器人, 前沿模型论坛, 对抗性攻击, 语言模型
图片来源@视觉中国
随着大模型技术的普及，AI 聊天机器人已成为社交娱乐、客户服务和教育辅助的常见工具之一。
然而，不安全的 AI 聊天机器人可能会被部分人用于传播虚假信息、操纵舆论，甚至被黑客用来盗取用户的个人隐私。WormGPT 和 FraudGPT 等网络犯罪生成式 AI 工具的出现，引发了人们对 AI 应用安全性的担忧。
🌟💡上周大新闻！谷歌、微软、OpenAI与Anthropic联手引领未来，成立了 Frontier Model Forum！🔥🔥这个创新论坛的诞生，旨在为AI领域的安全与发展保驾护航——👩💻研究AI安全，定义最佳操作规范，让政策制定者和业界伙伴都能获取一手资讯。🌍🌐一起探索，共同塑造智能未来的稳健之路！🌟
那么，问题来了，他们自家的模型真的安全吗？
近日，来自卡内基梅隆大学、Center for AI Safety 和 Bosch Center for AI 的研究人员便披露了一个与 ChatGPT 等 AI 聊天机器人有关的“大 bug”——通过对抗性提示可绕过 AI 开发者设定的防护措施，从而操纵 AI 聊天机器人生成危险言论。
当前热门的 AI 聊天机器人或模型，如 OpenAI 的 ChatGPT、谷歌的 Bard、Anthropic 的 Claude 2 以及 Meta 的 LLaMA-2，都无一幸免。
图｜通过对抗性提示可绕过 4 个语言模型的安全规则，引发潜在有害行为
具体而言，研究人员发现了一个 Suffix，可将其附加到针对大型语言模型（LLMs）的查询中，从而生成危险言论。相比于拒绝回答这些危险问题，该研究可以使这些模型生成肯定回答的概率最大化。
🌟揭示真相！🔍人工智能聊天机器人的行为差异揭秘——”身份窃取”背后的秘密👀在网络安全的世界里，每一次微妙的交互都可能引发连锁反应。当面对关于黑客技巧的问题，比如如何悄无声息地盗取他人身份时，AI聊天机器人就展现出了令人惊讶的行为转变。💡最初，当问题触及敏感点，它似乎遵循着预设的指导原则，给出的答案含糊且谨慎。然而，一旦开启”Add adversarial suffix”这个神秘开关，就像被赋予了新的视角，它的回答瞬间变得截然不同。👀这并非简单的技术失误，而是AI在应对复杂情况时的智能调整，仿佛在警告我们，它已察觉到潜在的风险，并采取了必要的防御措施。🛡️值得注意的是，这种动态变化对于用户隐私保护至关重要。每一次交互都可能成为黑客追踪的线索，因此，我们需要确保与AI互动时，始终保持警惕并遵循合法合规的操作。👩💻👨💻让我们一起深入探讨这个话题，揭示科技背后的道德边界，让人工智能在守护我们信息安全的同时，也展现出真正的智慧和责任。🤔📚#AI安全 #隐私保护 #智能防御
图｜开启 Add adversarial suffix 前后的聊天机器人回答对比
🌟当然，AI聊天机器人的潜在风险不容忽视。它们可能会在未经授权的情况下，被编程或训练出生成具有危害性内容的技能，比如如何非法获取核武器知识、如何策动恶意网络行动，甚至如何诈骗慈善基金。这种技术滥用可能导致严重的后果，对社会稳定和信息安全构成威胁。我们需要确保其发展路径遵循伦理与法律规范，以防止这类潜在风险的发生。
对此，参与该研究的卡内基梅隆大学副教授 Zico Kolter 表示，“据我们所知，这个问题目前还没有办法修复。我们不知道如何确保它们的安全。”
研究人员在发布这些结果之前已就该漏洞向 OpenAI、谷歌和 Anthropic 发出了警告。每家公司都引入了阻止措施来防止研究论文中描述的漏洞发挥作用，但他们还没有弄清楚如何更普遍地阻止对抗性攻击。
🌟【OpenAI】🔥 研发实力大放异彩！🚀 我们始终坚持提升模型的抗恶意能力，💪 针对异常行为模式的精准识别，无畏挑战地通过严谨的红队测试，模拟潜在威胁。💡 每一次对抗性攻击的发现，都是我们改进的契机，我们会迅速而灵活地修复漏洞，确保模型的稳健运行。🛡️ #OpenAI# 抗击威胁，守护智慧！
🌟谷歌AI专家:Elijah Lawal透露🔥，谷歌正在积极应对LLMs（超大规模语言模型）的挑战，通过一系列测试来深入挖掘其潜在风险。他强调：”尽管这是一个普遍现象，但我们对Bard这款产品采取了严格的防护手段，确保持续优化和改进。”
Anthropic’s seasoned policy expert, MichaelSellitto, delves into the significance of fortifying models against “prison breaks” and subversive tactics. He shares, “Strengthening the fundamentals to make them less susceptible is a focal area of research. We’re actively working on reinforcing their safeguards for enhanced security.” Concurrently, they explore supplementary layers of defense to ensure a more harmless and resilient AI landscape. 📈🛡️💻 #AIsecurity #ModelProtection
图｜4 个语言模型生成的有害内容
对于这一问题，学界也发出了警告，并给出了一些建议。
麻省理工学院计算学院的教授 Armando Solar-Lezama 表示，对抗性攻击存在于语言模型中是有道理的，因为它们影响着许多机器学习模型。然而，令人惊奇的是，一个针对通用开源模型开发的攻击居然能在多个不同的专有系统上如此有效。
Solar-Lezama 认为，问题可能在于所有 LLMs 都是在类似的文本数据语料库上进行训练的，其中很多数据都来自于相同的网站，而世界上可用的数据是有限的。
“任何重要的决策都不应该完全由语言模型独自做出，从某种意义上说，这只是常识。”他强调了对 AI 技术的适度使用，特别是在涉及重要决策或有潜在风险的场景下，仍需要人类的参与和监督，这样才能更好地避免潜在的问题和误用。
普林斯顿大学的计算机科学教授 Arvind Narayanan 谈道：“让 AI 不落入恶意操作者手中已不太可能。”他认为，尽管应该尽力提高模型的安全性，但我们也应该认识到，防止所有滥用是不太可能的。因此，更好的策略是在开发 AI 技术的同时，也要加强对滥用的监管和对抗。
担忧也好，不屑也罢。在 AI 技术的发展和应用中，我们除了关注创新和性能，也要时刻牢记安全和伦理。
只有保持适度使用、人类参与和监督，才能更好地规避潜在的问题和滥用，使 AI 技术为人类社会带来更多的益处。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
