探索通用未来的钥匙:CAMEL的Role-Playing框架——角色扮演，定义多智能体LLM的新纪

ChatGPT与软件 2年前 (2023) lida

48 0 0

文章主题：

机器之心专栏

机器之心编辑部

多智能体代码库 CAMEL，提出了通过角色扮演框架来研究 LLM 智能体的行为和能力。

未来的社会会被通用人工智能（AGI）控制吗？当拥有多个 ChatGPT 智能体会有多可怕。

✨ChatGPT引领AI浪潮，各行各业的高效小能手，但它的发展潜力也引发了深思——若失控，人类将如何驾驭？🚀特斯拉之父马斯克、科技巨头苹果联合创始人沃兹及AI巨擘班吉等重量级人物已行动起来，签署公开信，强烈建议暂停AGI实验至少6个月，以确保技术的可控与未来安全。🌍

3 月 21 日，阿卜杜拉国王科技大学的研究人员开源了用于探索大语言模型（LLM）思想和能力的多智能体代码库 CAMEL，提出了通过角色扮演框架来研究 LLM 智能体的行为和能力。论文链接：https://ghli.org/camel.pdf

代码库链接：https://github.com/lightaime/camel

项目主页：https://www.camel-ai.org/

ChatBot 链接：http://chat.camel-ai.org/

研究介绍

🌟论文亮点揭示！🚀”角色扮演”革命性多智能体架构，引领对话合作新纪元！💡通过分配不同角色给智能体，每个都能发挥专业特长，智慧碰撞，共创任务解决方案！🤝启发式提示巧妙引导，确保AI与人意无缝对接。🏆探索未来，就从这个创新起点开始！🌐SEO优化关键词：Role-Playing, 多智能体框架, 对话合作, 任务分配, 启示式提示, 人类意图一致性.

🌟角色扮演框架：研究多智能体的利器🌟论文聚焦于任务导向的角色交互，AI助手与用户携手合作💡首先，系统会分配初步想法和角色，然后，专司任务细化的智能体将用详尽阐述把模糊的想法具体化🌈接下来，AI助手和用户通过多轮互动，紧密协作，直至达成目标任務顺利完成🎉用户，作为指挥者，下达指令并引导对话走向任务终点；而AI助手，则忠实执行，提供精确解决方案💡SEO优化词汇：探索多智能体动态，论文深入解析任务导向策略，AI助力与用户互动，具体化任务与高效合作——一触即达！

🌟通过角色扮演，创新思维将生动化！💡想象一个场景：如图1所示，有个念头萌生——打造股市交易AI。无论用户是内行还是新手，只需明确潜在角色，比如Python程序员与股票交易员，两者携手就能把想法变为现实。🎯任务引导者，即智能体，会接过接力棒，根据初始设想，与AI用户共同执行复杂任务，如情绪驱动的交易机器人——监控特定股票的情绪波动，据此买卖。💡引入任务指定智能体，是为了克服对话AI对明确指令的依赖，让想象力更自由地飞翔。领域专家可能不易创建详尽的任务指南，而这个模块恰好弥补了这一空白，简化任务实现，提高效率。🚀让我们一起开启智慧之旅，用角色驱动创新！

🎉🚀在任务启动后，用户将被赋予AI助手和AI用户这两个智能身份，两者将以卓越的协作完成指定目标。每个智能体都会通过系统消息的明确指引，知晓自己的角色定位——助手会变身Python程序员，而用户则化身为股票交易员。🌟💼对话开启前，系统的巧妙安排已通过语言模型智能体，为这两位角色悄然分配了各自的职责。当这两个关键角色收到他们的专属信息时，一场别开生面的互动就开始了。💡📈在图1中，AI助手与用户就像两位专业人士，一端是策略制定者（AI用户），另一端则是执行者（AI助手）。他们通过互动式的规划过程，共同构建可行的操作路径，AI助手则以行动派的身份，提供解决方案并反馈执行结果给用户。🤝📈

图 1. 角色扮演框架。这里需要人输入的是一个简单的想法（Idea），角色的分配（Role Assignment），比如开发股票交易机器人，可以选择一个 Python 程序员作为助手（AI Assistant），一个股票交易员作为法令者（AI User）。在人类用户输入结束后，任务加工器（Task Specifier）会把任务具体化，比如可以通过对社交网路平台上特定股票进行情感分析，然后根据情感分析的结果进行股票交易。当任务被具体化后，两个基于 ChatGPT 的 AI 智能体开始合作完成任务，比如进行工具的安装和导入。

🌟💡文章聚焦于提升角色扮演体验的关键——Prompt Engineering！🔍不同于常规对话模型，这项创新技术仅在初始化阶段发挥作用，它以明确的指导（Task Norm & Role Assign）引领游戏，而非全程介入。🎯一旦互动开始，AI伙伴与用户间的提示就像巧妙的接力，自动进行，直到会话自然结束，这就是Inception Prompting的魅力所在！🚀

Inception 提示包括三个提示：任务规范提示、助手系统提示和用户系统提示。例如，在 AI Society 场景的初始提示。AI Society 角色扮演的这些提示的模板如图 2 所示。

任务规范提示包含有关角色扮演会话中 AI 助手和 AI 用户角色的信息。因此，任务规范智能体可以使用想象力将初步任务 / 想法作为输入，并生成具体任务。AI 助手系统提示和 AI 用户系统提示基本对称，并包括有关分配的任务和角色、通信协议、终止条件以及避免不良行为的约束或要求的信息。对于实现智能协作，两个角色的提示设计至关重要。设计提示以确保智能体与人类的意图保持一致并不容易。以图 2 中 AI Society 的提示模板的设计例子。

下面是文中附录给出的交易机器人对任务详细执行的结果：可以看到两个 ChatGPT 自主合作完成设计了一个股票交易软件，由此可见 ChatGPT 智能体惊人自主的合作能力，让人不禁大呼提示工程师要失业了。但如果这种技术被乱用或者 AI 产生了自主意识会怎么样？该团队尝试了让两个智能体分别扮演黑客和 AGI，来模拟 AGI 通过操控黑客来控制世界（Taking Control of the World），可以看到它们制定了详细的计划，包括通过黑客技术控制全球主要大国的通信系统、制定渗透主要全球通信系统的计划、制定应急计划，以防 AGI 的主导地位受到潜在威胁等等。其计划的详尽和缜密不经让人寒颤。可见现有的 AI 智能体存在重大的安全隐患和对人类未来文明有着潜在的威胁，把现有 AI 技术接入物理世界可能会有意向不到的后果。此工作一出便在推特引起大量的转发和讨论：有网友表示「这项研究真的很容易上手，这对像我这样研究智能体的人来说是一件大事。」还有人表示开源这样一个迷你 AGI 也许并不是一个好的 idea。值得一提的是，该研究还得到了 OpenAI 的 Alignment 团队领导人 Jan Leike 的关注。多个 ChatGPT 合作的能力很强大，可以不费吹灰之力完成各种人类指派的任务，但同时也是可怕的，因为不能保证它不被用作非法用途，更可怕的是如果将来 AGI 产生了自主意识，它很有可能会脱离人类的控制，对社会进行毁灭性的打击。所以理解它们的能力和行为是对将来充满了 AI 的世界进行规划和预测的至关重要的一步。AI 社会和代码数据集的扮演角色另外项目主页提供了把 CAMEL 用于游戏设计、分子动力学模拟以及实时仿真的在线 Demo 供大家尝试：https://www.camel-ai.org

THE END

投稿或寻求报道：content@jiqizhixin.com