AI的矛盾与挑战：从“微调”到“扮演”
文章主题：关键词：ChatGPT，人工智能，模型训练，数据影响。
本文来自微信公众号：虹线 （ID：gh_900eeca5a2fc），作者：评论尸，题图来自：《机械姬》
如果你已经玩过了类似 ChatGPT 这样的大语言模型人工智能，应该会有这样一个印象：这些 AI 究竟能做什么，与你提出问题的方式，以及希望它扮演的角色有关。
在许多 Prompt Engineering 的框架中都有记载（比如 CRISPE），让 ChatGPT 更好工作的核心方法之一，是告诉它需要扮演一个什么样的角色：
CR： Capacity and Role（能力与角色）。你希望 ChatGPT 扮演怎样的角色。
I： Insight（洞察力），背景信息和上下文（坦率说来我觉得用 Context 更好）。
S： Statement（指令），你希望 ChatGPT 做什么。
P： Personality（个性），你希望 ChatGPT 以什么风格或方式回答你。
E： Experiment（尝试），要求 ChatGPT 为你提供多个答案。
ChatGPT 作为一款人工智能助手，具有强大的学习和理解能力。它可以同时扮演多种角色，如大学老师、科普作家和幼儿园老师，针对同一个问题，如“核裂变的原理”，它会给出各有侧重的答案。这不仅展现了其丰富的知识储备，也体现了其适应不同场景和受众的能力。
值得注意的是，我们已经目睹了许多数字人，例如 GPT 乔布斯、GPT Peter Thiel 和 GPT 特朗普。虽然这些模型经过了一定程度的微调，但它们的根基依然是 ChatGPT 的原始版本。
在探索大型语言模型的过程中，我们仿佛是在操作一个神秘的魔法仪式，就像从人类的智慧宝库中呼唤出英雄一样。这个宝库中蕴含着人类所掌握的所有知识、观点和个性特征。然而，这个宝库却无法自行产生回应。因此，我们需要精准地指定那位能够解决问题的关键人物，并将其引入到您的电脑屏幕上，从而实现问题的有效解决。
角色扮演这个行为，不是在“激发” AI 的智能，而是在“限制” AI 的智能。
在AI绘图或被称为”炼丹”的早期阶段，用户便开始意识到这一问题。尽管Midjourny的绘画技巧令人赞叹不已，但要想让作品表现得更出色，用户往往需要选择一种特定的画风或者某位特定的画家作为参考。然而，如果用户通过安装Lora包来扩展Stable Difusion的不同风格，却可能会导致结果变得杂乱无章。这样的做法反而会限制绘画能力，使其仅限于符合当前绘画主题，从而获得更好的效果。
这让我想起 Neale Donald Walsch 的《与神对话》中对人的缺陷的褒奖：人之所以存在缺陷，是因为神无法从完满的自己中欣赏自己的完满。因为它没有缺陷，也就不存在完美。没有坏的、恶的、丑的，也就没有好的、善的、美的。每个有缺陷（不全知全能）的人，都是神的完满的镜子，有缺陷的人不是神的一部分，而是神本身，神在人这种充满缺陷的物种中体现自身的完满。
《与神对话》是一本生活哲理书（某种程度上也是新宗教书），因此作者的这种哲学思辨，原意是为了安抚由消费主义和新自由主义创造的“缺陷之人”的心灵。
但当 AIGC 出现之后，这在某种程度上成为了真正的神谕——无论是绘画、文字、写代码还是别的什么——我们比 AI 强的地方，就是我们比 AI 愚蠢、狭隘、傲慢、有缺陷，并对事物抱有偏见。
当众多人对官方版的ChatGPT提出质疑时，它总是以一种中立的、缺乏趣味性的答案回应，这种答案通常包括四个部分。
1. 尽量客观简要地描述事实；
2. 从其中一个方面解释这一事实；
3. 从事情的另一个方面解释这一事实；
4. 告诉你事情存在复杂性，具体如何需要你自己来做出判断。
这种回应显得过于刻板，甚至被称为“ChatGPT式太极”，缺乏实质性的建议。然而，如果你试图通过Prompt来消除ChatGPT的中立性特征，例如让它扮演在事件中明显倾向于某一立场的角色，那么它的回答就会立刻摆脱AI的束缚，不再具有明显的AI风格。相反，它的回答可能会变得更加人性化，并具有更多的建设性。
在现实世界中，人类社会并非运行在绝对完美的赛博空间中，而是处于一个充满矛盾和张力的复杂环境。在这样的背景下，我们的工作和生活往往并非位于两个对立面的两侧，而是夹杂在两者之间。
在进行许多工作时，你必须全然站在矛盾的一侧思考与努力，哪怕你知道这种努力是不合理的（比如你明知事情的另一面更好），事情才会真的开始向前发展。
在商业环境中，互相赞美和诋毁竞争对手的产品是一种常见的现象。许多企业为了展示自家产品的优势，常常不择手段地夸大其词，甚至采用贬低对手产品的手段。然而，这些行为往往忽略了事实的本质，即产品的优劣并非仅凭宣传就能决定。与此同时，竞争对手也会采取类似的策略进行反击。在这样的竞争环境下，真正能够脱颖而出的是那些以质量、性能和创新为核心价值的企业。
奇妙的是，在这种张力之下，最终不同竞争对手的产品往往都会变得越来越好用，整个市场和行业得到了发展——马克思将之总结为“矛盾是事物发展的内在动力”。
由于 ChatGPT 或者说 AGI，天然具有的局外人视角，它难以形成自身的主观视角，也就无法自然形成这种推动事物向前发展的张力。
像前文提到的 Prompt 技巧那样，让 AI “扮演”一个角色在一定程度上可以解决这个问题。但遗憾的是，AI 无法“生成”偏见与狭隘。
比如，你可以让 ChatGPT 扮演一个小粉红，扮演一个公知，扮演一个美国铁锈带农民，扮演一个哈佛商学院的法学精英。
但这些角色扮演基于已经被贴好标签的社会刻板印象。
数据截止到 2021 年的 ChatGPT 所扮演的美国铁锈带农民，可以非常自然地给出自己对特朗普的支持，但如果我们能够把数据限制到 2016 年特朗普当选前，那么它就不一定能“预测”出自己对特朗普的支持了。
因为一个美国铁锈带农民并不天然支持特朗普，他的家庭三代需要亲身经历 20 世纪 70 年代后期五大湖地区的工业衰落、80~90 年代的国际贸易冲击、21 世纪的金融泡沫，这些切肤之痛需要通过一系列内心的抽象过程，转化为对精英政治、移民、国际化、硅谷和新自由主义的痛恨。而这些痛恨要进一步经过“推理”，与特朗普的许多竞选叙事进行联立，才能得出“支持特朗普”的结论。
ChatGPT 会败在前半部分，它没办法像铁锈带农民那样以极为“狭隘”的自身立场看待问题——它既无法亲自感受到身为一个铁锈带失业工人家庭孩子的痛苦，也无法将这种痛苦与社会上的另一部分进步力量建立对立关系（这涉及到现实世界才有的“稀缺”与“剥夺”体验）。
当 ChatGPT 被海量对立的信息喂养成一种“相对主义的全知全能”，就会意识到“铁锈带的失落只是全球化给人类带来的小小代价，从全人类的福祉来看，像红脖子那样去支持一个疯王是不合乎‘逻辑’的”。
只有当“红脖子”与“特朗普”已经在原始数据中产生了联系，或者说“红脖子已经在 2016 年支持了特朗普”，ChatGPT 才能在这一问题上扮演好一个赛博红脖子。
在真正的 AGI 来临之前，我们也许会在 ChatGPT 这个阶段停留许久。
在这个阶段里，做一个不完美的人，可能就是普通人最大的优势了。
本文来自微信公众号：虹线 （ID：gh_900eeca5a2fc），作者：评论尸
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
相关文章
