ChatGPT颠覆国家安全？未来已来，美国该如何应对大型LLMs的战略挑战？
文章主题：ChatGPT,国家安全,LLMs
ChatGPT与国家安全
ChatGPT与国家安全
ChatGPT风靡全球。自2022年11月发布以来，OpenAI的聊天机器人在SAT考试中取得了1020高分，通过了医疗执照考试，成功地降低了用户的有线电视费用，甚至起草了如何监管AI的立法。从课堂到播客再到餐桌，甚至名人云集的电视节目，它一直是热门话题。
大型语言模型将如何影响美国国家安全？
🌟ChatGPT引领潮流🔥自2022年11月横空出世以来，OpenAI的聊天机器人在全球范围内引发了热烈讨论，其卓越表现令人瞩目。在SAT考试中，它以1020分的成绩震惊了学术界，医疗执照考试中也顺利通过，为用户带来了实实在在的便利。不仅如此，它还成功助力消费者节省电视费用，其影响力可见一斑。这款人工智能的全能性无处不在——从教育到娱乐，再到日常生活，它已成为热门话题的代名词。无论是教育播客还是名人访谈节目，ChatGPT都以其创新思维和实用性赢得了大众的喜爱。它的出现无疑为AI监管立法开辟了新的路径，引领着行业的发展方向。SEO优化提示：使用相关关键词如”ChatGPT、OpenAI、人工智能、SAT考试、医疗执照、用户便利、电视费用节省、AI监管立法”等，并适当增加emoji符号以提升可读性和吸引力。
极简版
🌟在全球战略视野中，各国正竞相借助AI的力量以求经济、军事及国家安全上的领先地位。正如OpenAI首席执行官Sam Altman在NSCAI 2021年全球新兴技术峰会上与Eric Schmidt的深度对话中所透露的那样，”构建这些顶尖人工智能系统的全球努力将日益显现，而要实现我们所追求的目标——以自由民主为基石的AI驱动的成功——最佳路径无疑是我们在前沿进行创新和合作。”🌍
🎉📚战略前瞻：LLMs的深度解析🔍🌟在这篇文章中，让我们深入探讨LLMs（法学硕士）的战略意义，首先洞察AI浪潮中的我们所站位置，然后聚焦LLMs如何赋能国防部、情报机构及全美国家安全体系。最后，以决策者的核心考量为引领，揭示其对未来安全格局的关键影响。🚀💼
AI进步的“ChatGPT时刻”
🎓ChatGPT并非一夜爆火，而是AI领域不断演进的必然产物，它标志着机器学习（ML）特别是自然语言处理（NLP）技术飞速进步的一个里程碑。自从2020年OpenAI推出划时代的GPT-3，再到2022年底ChatGPT的面世，短短几年间，LLMs生态系统已壮大到全球十几个实力派玩家的交织，他们共同推动了开源模型的发展，并打造了一系列专为特定需求定制的应用工具。🚀
LLMs生态系统中的参与者
今天推动LLMs向前发展的许多主要参与者都是美国公司。但是，中国的实体和公司，以及英国、以色列、韩国等国家的组织，也成为了重要的参与者。虽然美国私营部门具有竞争优势，但中国决心在AI领域超越美国，在各个领域争夺领导地位，包括算力、算法、数据、应用程序、集成和人才。中国也是LLMs的快速追随者，百度将在3月份发布自己的类ChatGPT的聊天机器人。
更重要的是， 我们可以预期AI生态系统将进一步扩展，因为训练AI模型的障碍(如成本)会随着“无代码AI”等新技术的出现而减少。美国必须为世界上越来越多的参与者，从国家到公司再到个人，做好准备，以便能够为各种目的创建和利用定制算法。
🌟🚀LLMs: The Future of Content Creation 🌟🔍As the popularity of tools like LLMs continues to soar, ChatGPT has made headlines with its impressive 100 million active users in just two months – a record-breaking feat that took TikTok nine months longer. Google is set to join the chatbot race with Bard, their AI聊天 model built on LaMDA’s foundation. Organizations like SCSP have embraced these language models, leveraging them to streamline content generation.In our comprehensive report ‘Midterm Challenges to National Competitiveness’, we delved into the capabilities of three LLMs – GPT-3 from OpenAI, BLOOM by Hugging Face, and the Anthropic model. These AI assistants provided reasonable insights on the report’s focal issues. The power of LLMs extended beyond our initial exploration, as they assisted in crafting the previous version of this very article for our 2022 Global Emerging Tech Summit.The summit featured a special interaction with Anthropic’s LLM, co-created by Jack Clark, where it answered audience queries in real-time, demonstrating their versatility and potential. The integration of LLMs into content creation is not just about efficiency but also about the future of intelligent communication. 🤖💬Remember, when discussing AI-driven advancements like these, always keep SEO in mind while crafting your content to reach a wider audience. Embrace the language of progress and innovation! 🚀🌐
然而，LLMs可以做的不仅仅是谈论国家安全形势，他们实际上开始塑造它。以下是美国国家安全企业中LLMs的一些潜在用例。
美国国家安全企业的机会
LLMs作为“智能化intelligentized”工具的接口：类似于ChatGPT的LLMs可以成为人类访问各种AI工具的接口，包括计算机视觉和机器人技术。在癌症筛查等任务中，人机团队(Human-machine teams，HMT)已经证明比单独使用人类或AI模型更有效。在国家安全背景下，此类智能化工具可以通过AI生成的预测洞察力改变指标和警告格局，启用半自主系统，例如使用LLMs来训练有用的机器人并与之交互，以及支持从物流和供应链管理到出口管制申请审查的任务。
LLM和情报：ChatGPT和其他新兴技术有能力在所有情报学科(INT)和情报周期的各个阶段，以及在战争的各个层面为军队建立一个更强大、更快的情报社区。使用ML模型的HMT功能已经证明能够通过过滤大量数据和标记重要信息来提高情报处理和分析的效率，并使分析师能够专注于更深入的分析。LLMs还可以通过帮助生成估计分析草稿、准确翻译外文等来提高生产力。特别是对于开源情报(OSINT)，具有外部搜索能力和专家知情培训数据的LLMs将增强我们的收集和分析能力。可以为对开源情报中心的需求和情报目的训练和开发这些工具。
决策支持：决策优势将归于领导人最有能力利用AI模型作为决策支持工具的国家。通过将AI、数据、建模和仿真功能以及预测洞察力正确组合，模型将能够制定出各种政策选项，并向人类决策者提供分析。最近的成就，例如AI模型在战略游戏“强权外交Diplomacy”中的表现优于人类，其中涉及与对手互动和讨价还价，以及在战争游戏中展示了这一技术向量的相当大的进步，即使还有更多的工作要做。LLMs在做出操作决策的半自治系统中应扮演的角色有明显的局限性。然而，这些“专家”可能是房间里的另一个声音，提供关于政策或战争选择的实时、数据知情的观点。
其他重要的国家安全考虑
信息格局：ChatGPT增加了NSCAI最终报告第1章中描述的风险，即在我们制定适当的对策之前，我们的对手转动了启用AI的信息操作的表盘。诸如ChatGPT之类的LLMs可用于以速度和规模生成独特的文本，从而避开现有的过滤系统。也许最重要的是，尽管这些技术能力在ChatGPT之前就已经存在，但随着公众的关注，更多人可能会质疑他们在社交媒体等上阅读的内容是否由AI生成。我们可能确实正在进入一个我们消费的大部分内容都是AI生成的世界，为国家和非国家行为者创造新的载体来塑造信息格局。令人欣慰的是，最近合成内容检测功能的激增，包括OpenAI发布的文本分类器和C2PA的规范标准，提高了国家安全专业人员和知情公民等人将拥有可用于帮助识别合成媒体的工具的前景。
数据和训练是基础：LLMs近年来取得了长足的进步，但它们不是神谕。它们最终只能与训练它们的数据一样好，并且可以产生没有事实依据的“幻觉”信息。它们的使用总是会带来相关的风险，人类必须仔细考虑。尽管如此，LLMs将继续激增，因为国家、公司和其他参与者推动了最先进的技术水平，并且人们将ChatGPT等工具集成到他们的日常生活中。任何拥有全球技术野心的国家都不会在生态系统向前发展时转身离开。
AI对抗AI：随着AI功能被整合到国家安全设备中，我们的LLMs可能会与我们的对手进行测试，无论是在特定情况下还是为了整体信息优势。美国将需要利用私营部门的竞争优势来确保我们的LLMs是世界上最好的。此外，我们需要确保美国军方和情报界的AI工具在适当情况下能够与我们的盟友和合作伙伴的AI工具进行互操作。
黑匣子问题：随着我们越来越依赖AI系统，我们需要一种方法来解释和理解它们。“注意力建模attention modeling”和“思维链推理chain-of-thought reasoning”方面的进步是有前途的，但我们仍然无法“查询”AI应用程序以“讨论”其思维过程。这一领域的突破将使人类用户能够理解AI系统做出特定决定的原因，从而有助于建立对AI系统的信任。
网络安全和代码：LLMs将通过代码生成在基础计算机科学层面影响国家安全，对国家安全机构、企业和消费者产生影响。Copilot是针对代码生成进行微调的GPT-3版本，已经大大提高了编码准确性和生产率。类似的技术开始用于检测和防止零日攻击，并且通常可以帮助强化代码。LLMs还将为网络安全创造新的风险载体，例如降低恶意网络参与者的进入门槛。这些风险将使大规模部署有助于确保我们的网络系统安全的AI工具变得更加重要。
跟上技术的发展速度：无论是制定AI法规还是将AI能力整合到人类劳动力中，政府都将努力跟上技术快速发展的步伐。例如，欧盟委员会正在努力解决欧盟即将出台的AI法案将如何处理ChatGPT等系统的问题，这凸显了设置适用于最新功能的治理模型的难度。同样，工具和技术的快速变化可能会导致政府部门和机构采取保守的态度并继续使用时已经过时的系统。唯一的前进方向是让采购流程和治理框架等变得足够灵活，以便它们能够跟上AI的步伐。
归根结底，无论我们的领导者和组织是否倾向于“ChatGPT时刻”，LLMs和AI都将更广泛地重塑国家安全格局。今天，美国在LLMs研发的前沿具有关键的竞争优势。但长期优势将通过采用此类工具来塑造，而那些无法适应和落后的人将面临风险。
免责声明：本文转自中国指挥与控制学会，原作者AerospaceDefense。 文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！
转自丨中国指挥与控制学会
作者丨AerospaceDefense
研究所简介
国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。
地址：北京市海淀区小南庄20号楼A座
微信：iite_er返回搜狐，查看更多
责任编辑：
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
