ChatGPT来袭，国家安全如何应对？
文章主题：ChatGPT,国家安全,LLMs
ChatGPT与国家安全
ChatGPT与国家安全
ChatGPT风靡全球。自2022年11月发布以来，OpenAI的聊天机器人在SAT考试中取得了1020高分，通过了医疗执照考试，成功地降低了用户的有线电视费用，甚至起草了如何监管AI的立法。从课堂到播客再到餐桌，甚至名人云集的电视节目，它一直是热门话题。
大型语言模型将如何影响美国国家安全？
🌟ChatGPT引领潮流🔥自2022年11月横空出世以来，这款由OpenAI打造的聊天机器人迅速席卷全球，展现出强大的智能实力。它在SAT考试中震惊众人，斩获了令人瞩目的1020高分，医疗执照考试也不在话下，成功助力用户节省高昂的有线电视费用。不仅如此，它的影响力已渗透到日常生活的各个角落——从教育到娱乐，再到日常生活，成为热议焦点。这款AI神器不仅改变了学习方式，还涉足立法领域，为监管AI的发展提供了创新思路。无论是教育播客还是名人主持的节目，ChatGPT的话题热度持续攀升，成为了热门讨论话题的代名词。SEO优化提示：使用相关关键词如”ChatGPT、OpenAI、智能、SAT考试、医疗执照、有线电视费用节省、日常生活、教育娱乐、立法创新”等。
极简版
🌟在全球AI战略版图上，各国正竞相借助AI模型以求经济、军事及国家安全上的竞争优势。正如OpenAI掌门人Sam Altman在NSCAI 2021年全球新兴科技峰会上与Eric Schmidt的深度对话中所透露的那样，”构建这些顶尖人工智能系统的全球化努力将势不可挡，而要实现我们所期望的成果——以自由民主为基石的人工智能——最佳路径无疑是我们在前沿引领的同时，携手盟友共同打造。”🌍
🎉🚀掌握未来知识，LLMs的战略深度探索即将展开！🔍在这波人工智能浪潮的巅峰，我们深入剖析当前地位，引领读者步入LLMs对未来国防、情報领域及全美安全体系的深远影响之旅。🏆💡接下来，我们将聚焦于决策者最关心的问题，揭示LLMs如何成为关键策略工具，为国家安全提供强大保障。🛡️💼让我们一起揭开这层神秘面纱，探讨LLMs如何在数字化时代中塑造未来决策，让智慧引领前行！🌍🎓记得关注，获取更多AI与国家安全的深度洞察，我们是知识的守护者！👩🏫👨💻
AI进步的“ChatGPT时刻”
🎓 ChatGPT并非一夜爆红，而是AI领域进步浪潮中的翘楚，它背后是自然语言处理(NLP)与机器学习(ML)技术的迅猛崛起。自从2020年OpenAI推出GPT-3，再到2022年底ChatGPT的面世，短短几年间，LLMs生态系统已壮大到全球十几个实力派玩家的并肩竞技场。开源LLMs模型的普及与定制工具的涌现，彰显了这些创新力量对特定应用场景的深度适应和贡献。
LLMs生态系统中的参与者
今天推动LLMs向前发展的许多主要参与者都是美国公司。但是，中国的实体和公司，以及英国、以色列、韩国等国家的组织，也成为了重要的参与者。虽然美国私营部门具有竞争优势，但中国决心在AI领域超越美国，在各个领域争夺领导地位，包括算力、算法、数据、应用程序、集成和人才。中国也是LLMs的快速追随者，百度将在3月份发布自己的类ChatGPT的聊天机器人。
更重要的是， 我们可以预期AI生态系统将进一步扩展，因为训练AI模型的障碍(如成本)会随着“无代码AI”等新技术的出现而减少。美国必须为世界上越来越多的参与者，从国家到公司再到个人，做好准备，以便能够为各种目的创建和利用定制算法。
🎉🚀LLMs正引领科技潮流，成为实用与易用的新宠！ChatGPT短短两个月就吸引了1亿活跃用户，速度惊人！谷歌紧随其后，Bard模型蓄势待发。像SCSP这样的组织也纷纷拥抱LLMs，利用它们生成内容的智慧。在我们发布的《国家竞争力中期挑战》报告中，我们就曾尝试过OpenAI的GPT-3、Hugging Face的BLOOM和Anthropic的先进模型，它们对关键问题的回答相当有见地。这些强大的工具不仅帮助我们的内容创作，还在2022年全球新兴技术峰会上通过 Anthropic LLM与杰克·克拉克共同为观众答疑解惑。🌟
然而，LLMs可以做的不仅仅是谈论国家安全形势，他们实际上开始塑造它。以下是美国国家安全企业中LLMs的一些潜在用例。
美国国家安全企业的机会
LLMs作为“智能化intelligentized”工具的接口：类似于ChatGPT的LLMs可以成为人类访问各种AI工具的接口，包括计算机视觉和机器人技术。在癌症筛查等任务中，人机团队(Human-machine teams，HMT)已经证明比单独使用人类或AI模型更有效。在国家安全背景下，此类智能化工具可以通过AI生成的预测洞察力改变指标和警告格局，启用半自主系统，例如使用LLMs来训练有用的机器人并与之交互，以及支持从物流和供应链管理到出口管制申请审查的任务。
LLM和情报：ChatGPT和其他新兴技术有能力在所有情报学科(INT)和情报周期的各个阶段，以及在战争的各个层面为军队建立一个更强大、更快的情报社区。使用ML模型的HMT功能已经证明能够通过过滤大量数据和标记重要信息来提高情报处理和分析的效率，并使分析师能够专注于更深入的分析。LLMs还可以通过帮助生成估计分析草稿、准确翻译外文等来提高生产力。特别是对于开源情报(OSINT)，具有外部搜索能力和专家知情培训数据的LLMs将增强我们的收集和分析能力。可以为对开源情报中心的需求和情报目的训练和开发这些工具。
决策支持：决策优势将归于领导人最有能力利用AI模型作为决策支持工具的国家。通过将AI、数据、建模和仿真功能以及预测洞察力正确组合，模型将能够制定出各种政策选项，并向人类决策者提供分析。最近的成就，例如AI模型在战略游戏“强权外交Diplomacy”中的表现优于人类，其中涉及与对手互动和讨价还价，以及在战争游戏中展示了这一技术向量的相当大的进步，即使还有更多的工作要做。LLMs在做出操作决策的半自治系统中应扮演的角色有明显的局限性。然而，这些“专家”可能是房间里的另一个声音，提供关于政策或战争选择的实时、数据知情的观点。
其他重要的国家安全考虑
信息格局：ChatGPT增加了NSCAI最终报告第1章中描述的风险，即在我们制定适当的对策之前，我们的对手转动了启用AI的信息操作的表盘。诸如ChatGPT之类的LLMs可用于以速度和规模生成独特的文本，从而避开现有的过滤系统。也许最重要的是，尽管这些技术能力在ChatGPT之前就已经存在，但随着公众的关注，更多人可能会质疑他们在社交媒体等上阅读的内容是否由AI生成。我们可能确实正在进入一个我们消费的大部分内容都是AI生成的世界，为国家和非国家行为者创造新的载体来塑造信息格局。令人欣慰的是，最近合成内容检测功能的激增，包括OpenAI发布的文本分类器和C2PA的规范标准，提高了国家安全专业人员和知情公民等人将拥有可用于帮助识别合成媒体的工具的前景。
数据和训练是基础：LLMs近年来取得了长足的进步，但它们不是神谕。它们最终只能与训练它们的数据一样好，并且可以产生没有事实依据的“幻觉”信息。它们的使用总是会带来相关的风险，人类必须仔细考虑。尽管如此，LLMs将继续激增，因为国家、公司和其他参与者推动了最先进的技术水平，并且人们将ChatGPT等工具集成到他们的日常生活中。任何拥有全球技术野心的国家都不会在生态系统向前发展时转身离开。
AI对抗AI：随着AI功能被整合到国家安全设备中，我们的LLMs可能会与我们的对手进行测试，无论是在特定情况下还是为了整体信息优势。美国将需要利用私营部门的竞争优势来确保我们的LLMs是世界上最好的。此外，我们需要确保美国军方和情报界的AI工具在适当情况下能够与我们的盟友和合作伙伴的AI工具进行互操作。
黑匣子问题：随着我们越来越依赖AI系统，我们需要一种方法来解释和理解它们。“注意力建模attention modeling”和“思维链推理chain-of-thought reasoning”方面的进步是有前途的，但我们仍然无法“查询”AI应用程序以“讨论”其思维过程。这一领域的突破将使人类用户能够理解AI系统做出特定决定的原因，从而有助于建立对AI系统的信任。
网络安全和代码：LLMs将通过代码生成在基础计算机科学层面影响国家安全，对国家安全机构、企业和消费者产生影响。Copilot是针对代码生成进行微调的GPT-3版本，已经大大提高了编码准确性和生产率。类似的技术开始用于检测和防止零日攻击，并且通常可以帮助强化代码。LLMs还将为网络安全创造新的风险载体，例如降低恶意网络参与者的进入门槛。这些风险将使大规模部署有助于确保我们的网络系统安全的AI工具变得更加重要。
跟上技术的发展速度：无论是制定AI法规还是将AI能力整合到人类劳动力中，政府都将努力跟上技术快速发展的步伐。例如，欧盟委员会正在努力解决欧盟即将出台的AI法案将如何处理ChatGPT等系统的问题，这凸显了设置适用于最新功能的治理模型的难度。同样，工具和技术的快速变化可能会导致政府部门和机构采取保守的态度并继续使用时已经过时的系统。唯一的前进方向是让采购流程和治理框架等变得足够灵活，以便它们能够跟上AI的步伐。
归根结底，无论我们的领导者和组织是否倾向于“ChatGPT时刻”，LLMs和AI都将更广泛地重塑国家安全格局。今天，美国在LLMs研发的前沿具有关键的竞争优势。但长期优势将通过采用此类工具来塑造，而那些无法适应和落后的人将面临风险。
免责声明：本文转自中国指挥与控制学会，原作者AerospaceDefense。 文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！
转自丨中国指挥与控制学会
作者丨AerospaceDefense
研究所简介
国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。
地址：北京市海淀区小南庄20号楼A座
微信：iite_er返回搜狐，查看更多
责任编辑：
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
