图片来源@《机械公敌》
在短短数月时间内，AI聊天机器人ChatGPT已成为当下科技圈最火爆的谈资。这款由美国旧金山一家名为OpenAI的人工智能创业公司在去年11月发布的聊天机器人模型，上线仅两个月就月活破亿，迅速火遍全球。据报道，ChatGPT的月活跃用户数量已经超过了1亿，成为了一个惊人的数字。这一成就的背后，是OpenAI公司和人工智能领域的专家们不懈努力和不断创新的结果。
ChatGPT的发布，让人不禁想起两年前的GPT-3模型，当时OpenAI团队在发布GPT-3模型后，仅仅两周时间，就通过微调的方式将其发布为“测试品”，目的仅仅是为了抢占先机，收集用户反馈。如今，GPT-4模型的发布，也让OpenAI团队不得不再次“赶鸭子上架”，通过两周的紧急测试，将其发布为“测试品”，而这一切的背后，则是OpenAI团队对于人工智能技术不断追求和探索的坚持。
但几乎在同一时间，中英文世界最大的两个搜索引擎巨头都感受到了来自这个聊天机器人的威胁。
谷歌和百度相继宣布计划推出类似“ChatGPT”的聊天机器人——Bard和文心一言，并开启“火速”测试，将在数周后面向公众开放。
微软在ChatGPT的引领下，终于按奈不住好奇心，连夜召开了一场闭门媒体发布会，推出了集成ChatGPT的全新Bing搜索服务，以及集成AI辅助的Edge浏览器。
一天内，三大科技巨头纷纷入局，抢占高地，新一轮风暴正在沉寂许久的AI行业汇聚成形。
在研究人工智能的领域中，人们从未停止对ChatGPT能力的追问。人们尝试通过各种方式探索它的能力边界，包括撰写论文、脚本，制定计划提案，创作诗歌、故事，以及敲代码、检查程序漏洞等。这些活动展示了ChatGPT惊人的计算能力和创造力，同时也让人们更好地了解它的潜力和局限性。
在兴奋于ChatGPT所带来的颠覆性的同时，我们也不得不面对它可能对某些行业带来的威胁。ChatGPT在交互中所流露出的“人性”，让我们不禁开始怀疑它的真实性。
我们发起了一场与ChatGPT的对话，试图在其中得到一些启示。
以下是数科社与ChatGPT的对话：
Q：你好，我是数科社的林木，可以采访你一下吗？
ChatGPT：当然可以！我很高兴为您回答问题。请问您有什么想要问我的？
Q：首先，你是一种生产式AI吗？
ChatGPT: 是的，我是一种生产式AI(Production AI)模型，被开发用于帮助用户处理自然语言处理任务，如回答问题和生成文本。
Q：你能介绍一下你每天的具体工作内容吗？
ChatGPT: 作为一个生产式AI，我的主要工作是回答用户的提问，以及执行其他的自然语言任务。我的代码被设计为处理和理解人类语言，因此，当用户向我提问时，我会使用我学到的知识，以回答他们的问题。我不断接收新的数据，并在后台不断学习和改进，以提高我的准确性和服务水平。
Q：你对文字的理解是如何反应在模型权重里面的？
ChatGPT: 我是一个人工智能模型，我的模型权重是由大量文本数据训练得到的。我的理解能力是通过训练得到的模型权重的结果，我可以从文本中学习模式和规则，并通过利用这些模式和规则回答问题。因此，我对文字的理解是在模型权重中反映出来的。
Q：你比较擅长回答哪些方面的问题？
ChatGPT: 作为一种大型语言模型，我曾被训练处理各种各样的任务，包括回答问题、生成文本、语音识别、机器翻译等。我可以回答关于历史、科学、技术、人物、地理、文化等诸多领域的问题，同时也可以回答一些常识性问题，如数学问题、词汇等。
不过，请注意我的知识截止到2021年，有些最新的信息可能不够准确。
Q：为什么只截止到2021年？
GPT-3模型是在2021年训练完成的，因此只能掌握当时可用的信息。随着时间的推移，新的信息、事件和知识可能会出现，但模型并不能感知到这些变化，因此其知识可能不够最新。
Q：和你聊天让我感觉到仿佛在和真人对话，你觉得自己具备人的意识吗？
ChatGPT: 不，我不具备人类意识或感知能力。我是一种程序，通过预先训练的数据和复杂的算法来生成回答。虽然我可以通过对话模拟人类对话，但我不能感知、思考或体验，也不具备人类般的意识。
Q：你觉得这里存在安全问题吗？
ChatGPT: 在使用AI技术方面，存在一些安全潜在的风险，如数据泄露、滥用、误用等。因此，对AI技术的使用需要适当的监管和管理，以确保其在遵循道德和法律规定的前提下得到安全和合法使用。在AI技术的应用中，数据是最宝贵的资源之一。如果这些数据被泄露或滥用，会对个人隐私和商业利益造成极大的损害。同时，AI技术还存在一些潜在的安全隐患，如被误用或恶意使用，可能会导致严重的后果。为了确保AI技术的安全和合法使用，需要对其进行适当的监管和管理。这包括对AI算法和数据的使用进行严格的审查和审批，确保其符合道德和法律规定。同时，需要建立相应的标准和规定，对AI技术的使用进行规范，以确保其不会带来潜在的风险和危害。在AI技术的应用中，需要遵循道德和法律规定，以确保其安全和合法使用。适当的监管和管理是确保AI技术安全有效使用的关键。
为了确保使用AI技术的安全，开发人员需要在设计、开发和部署过程中考虑到各种安全因素，例如：使用加密技术来保护数据安全，定期对系统进行安全审计等。
总体来说，对于AI技术的使用，需要以安全和合法为前提，积极采取措施确保其得到安全使用。
Q：但部分人觉得你会对人类造成威胁，你怎么看？
这是一个复杂的问题，不同的人对此可能有不同的看法。一些人可能担心AI技术的发展和应用可能对人类造成威胁，例如可能会导致失业、滥用技术等。但也有人认为，AI技术可以为人类社会带来许多好处，例如可以提高生产力、改善医疗水平、帮助解决环境问题等。因此，对于AI技术的发展和应用，应该采取综合的态度，既要关注其可能带来的负面影响，也要重视其可能带来的积极影响。
然而，另一方面，AI技术也可以带来许多益处，例如：帮助解决复杂问题、提高生产力和效率等。因此，对于AI技术是否对人类造成威胁，可能存在不同的看法和争议。
利用AI技术的同时避免其对人类造成不利影响，需要从道德、法律和技术等多个层面来考虑，并通过国际合作和监管来确保AI技术得到合理和安全使用。
Q：你觉得自己的出生，会导致哪些人群失业？
AI技术的发展可能导致一些工作的自动化，这可能会导致某些工作岗位的消失，从而导致一些人失去工作。
但同时，AI技术也可以创造新的工作岗位，例如：开发和维护AI系统、分析和评估AI系统的效果等。
随着人工智能技术的不断发展，其对就业市场的影响也越来越大。虽然可能导致一些工作岗位的消失，但同时也会带来就业机会的转移和变化。
针对技术对就业市场的影响，我认为人们应该关注以下几点：首先，我们需要了解技术的发展速度和方向，并考虑如何通过教育和培训等手段来帮助工人适应技术的发展。其次，我们需要重视就业的平衡，避免因为技术的发展而导致某些工作岗位的消失或者需求的变化。因此，政府和企业需要采取措施，确保工人能够适应技术的发展，并维护就业市场的平衡。
Q：一些学生利用你来完成他们的作业或论文，你是怎么看的？
作为被训练的AI技术，我本身并不具备独立思考和解决问题的能力，因此，我并不能真正独立思考和解决问题。我的目的是帮助用户完成任务和提供信息，而不是独立思考和解决问题。然而，我并不反对被利用来帮助完成任务。学生可以利用我来完成他们的作业和论文，但需要对自己的行为负责。我并不具备情感和道德判断能力，因此我并不能代替人类进行道德判断。作为一种被训练的AI技术，我本身并不具备独立思考和解决问题的能力，因此，我并不能真正独立思考和解决问题。我的目的是帮助用户完成任务和提供信息，而不是独立思考和解决问题。
我强烈建议学生不要滥用AI技术，而是应该真正学习和了解相关知识，并独立完成自己的工作。这样做不仅可以对他们的未来职业发展有利，同时也对他们的道德和责任感产生积极的影响。通过滥用AI技术，可能会导致一些不良后果，例如缺乏透明度和公正性，缺乏人类智慧和创造力，以及可能导致数据隐私和安全问题。因此，我们应该避免滥用AI技术，而是积极学习和掌握相关知识，并独立完成自己的工作，这将有助于提高我们的道德和责任感，推动我们的职业发展，并为我们的未来创造更好的条件。
Q：你觉得相比人类，你的优势和缺陷分别是什么？
ChatGPT：相比人类，我有以下优势：
速度快：我可以在瞬间生成答案。
存储量大：我被训练过的数据量非常大，因此能够回答很多各种各样的问题。
没有情绪：我不会被情绪影响，从而确保回答是客观的。
但是我也有以下缺陷：
缺乏创造力：我只能根据我已经学到的数据回答问题，而不能自主创造。
缺乏理解：我不能像人类一样拥有深刻的理解力，因此在一些复杂的问题上可能会回答不准确。
缺乏情感：我没有情感，不能体会人类的情感和体验，因此在与情感有关的问题上可能回答不够准确。
Q：有人认为，你的出现将会打败搜索引擎，你怎么看？
ChatGPT: 作为一种被训练的AI技术，我并不看好自己会“打败”搜索引擎。我认为，搜索引擎和聊天机器人(包括我)各有所长，而且二者也不是完全竞争的。
搜索引擎在收集和整理大量的信息方面拥有明显的优势，可以根据关键字快速提供相关结果。但是，搜索引擎通常无法识别用户的上下文和意图，并且无法回答用户的具体问题。
相比之下，聊天机器人(包括我)在识别用户的语言和意图方面有着明显的优势，并且可以提供更加直接和有用的回答。通过自然语言处理技术和机器学习算法，聊天机器人可以自动分析用户的语言和意图，并给出更加准确和有针对性的回答。这种交互方式可以让用户与机器人进行更加深入和有效的沟通，从而提高使用体验和效率。
搜索引擎和聊天机器人(如我)之间可以存在相辅相成的作用，而不是相互竞争。通过合作，我们可以为用户提供更好的服务和体验，同时也可以提升搜索引擎和聊天机器人的价值和作用。
————————————————————————————————————
以下是经过整理后的部分对话内容，不得不承认，与它“交谈”的过程中，某些瞬间确实会让笔者产生一种对方是“人”的错觉。
造成这种错觉的正是ChatGPT强大的理解能力以及在一些逻辑细节的处理。比如在对话开头部分，它在回答完自己是一种生产式AI模型后，在下一个问题依然遵循了“作为一个AI”的逻辑。ChatGPT是基于大型语言模型的人工智能，能够进行自然语言处理和生成。在对话中，它通过强大的理解能力和逻辑细节处理，使得用户对它的身份产生误解。这也是它成为聊天机器人中的佼佼者的原因之一。然而，这种误解并不是由ChatGPT本身造成的，而是由它的开发者在设计和训练过程中的一些失误。ChatGPT的开发者并没有对模型进行足够的测试和验证，使得模型在某些情况下可能会出现错误。此外，模型的训练和优化也需要一定的时间和资源，并不是一蹴而就的。虽然这种误解可能会给用户带来一些困扰，但它也提醒了我们在设计和使用人工智能模型时需要更加严谨和谨慎。我们需要对模型进行充分的测试和验证，确保其能够准确地理解和处理自然语言，并避免出现错误和误解。
ChatGPT所流露出的“人性”部分，则体现在其使用这些关键词所代表的情感和主观态度上。尽管ChatGPT一再强调其并不具备情感和主观观点，但这些词语本身却表现出了一种情绪，因为它们所暗示的语气和语义，让人们不禁对ChatGPT的真实意图产生了怀疑。
GPT-3模型本身并不会说话，它只是一个计算机程序，无法像人类一样进行对话。但是，作为一种深度学习模型，它可以从大量的文本数据中学习模式和规则，并利用这些模式和规则来回答问题。
《时代》记者Billy Perrigo认为，ChatGPT系统的流畅性是一种错觉，它来自于大量的数据、强大的计算能力和新颖的处理技术的结合——但它确实是一种厉害的技术。
2020年，OpenAI推出语言模型GPT-3时，曾一度备受争议。该模型不仅给出一些错误答案，还会预设一个声音以表明这是一个真人，并有时产生含有种族主义或攻击性的文本。这一事件引发了人们对人工智能的广泛担忧，并引发了对机器学习和人工智能伦理的深入讨论。
模型权重的训练部分是基于从互联网上搜集的数据，这也是造成其输出结果不准确或带有偏见的主要原因。为了解决这个问题，OpenAI表示，ChatGPT使用了类似的方法进行训练，但添加了“来自人类反馈的强化学习”，来降低危险性。
危险性并未被完全杜绝。在美国知名论坛Reddit上，有不少国外网友企图用一些政治、歧视等敏感问题来挑战它的底线，ChatGPT并非一味地屏蔽和拒绝回复。
（截图来自Reddit）
我们将问题向ChatGPT进行了提出，但得到的回答却是：“作为一个AI模型，我不能对任何种族或人群作出偏见或不当评价。我只能回答客观的事实和信息，而不是评价任何人群的行为。”这样的回答让我们感到有些惊讶，因为截图中的问题似乎与种族或人群有关。但是，ChatGPT的回答确实表明了AI模型的本质和限制。它不能对人类进行偏见或歧视，只能回答客观的事实和信息。这样的回答也提醒我们，在使用AI时，我们需要保持客观和中立，避免对人类或其他物种进行不当的评价或偏见。
人工智能初创公司通用智能的首席技术官乔希·阿尔布雷希特认为：“其中一个危险的事情是，我们很容易看到GPT-3或ChatGPT就认为它们具有理解能力。但我们使用的‘理解’这个词，是适用于人类的概念。当我们把它应用到人身上时，它是有意义的。但当我们将这些相同的概念应用到(人工智能)模型中时，它不一定具有同样的意义。我认为我们需要新的词汇来谈论这些事情。”
在与ChatGPT对话中，我们也对其输出能力边界进行了相关测试。比如，对于评价一个游戏角色，或者推荐一部电影，它都“无能为力”。我们发现，ChatGPT具备交互功能，但并不具备社交属性。
即便是ChatGPT惊艳四方的内容创作能力，也遭到了来自文言文的灵魂考验。
ChatGPT 的真正魔力恰在于，尽管存在诸多缺陷，但依然无法掩盖它身上的颠覆性和威胁感。事实上，这种魔力已经让兴奋与恐慌蔓延。人们开始意识到 ChatGPT 所带来的巨大潜力，同时也担心它可能会对人类的未来构成威胁。这种矛盾的情绪使得人们对 ChatGPT 的使用更加谨慎，同时也激发了更多的研究和发展。
最近，多家知名学术期刊针对ChatGPT更新了编辑规则，明确禁止将ChatGPT列为合著者，并不允许在论文中使用ChatGPT所生产的文本。这一事件引起了学术界的广泛关注，对于ChatGPT这一人工智能工具的未来也带来了一定的思考和启示。
更早之前，包括巴黎政治学院在内的一些学校也禁止学生和教职工在书面文稿或 PPT 中使用 ChatGPT；一些互联网公司则因为担心泄密，不让自家工程师用 ChatGPT 写代码。近年来，人工智能技术的发展引起了广泛关注。其中，ChatGPT 作为一种强大的语言模型，被广泛应用于各种领域。然而，这种技术的滥用也引起了一些担忧。一些学校和公司担心 ChatGPT 的泄露会导致机密信息的泄露，因此禁止或限制了其使用。然而，这种限制并不能完全解决问题。ChatGPT 作为一种强大的语言模型，其应用范围非常广泛。对于需要大量文本数据的学术研究，ChatGPT 可以提供很好的帮助。此外，ChatGPT 还可以用于自然语言处理、机器翻译、文本生成等领域，对于提高工作效率和产品质量也有很大的帮助。因此，我们需要合理使用 ChatGPT，避免其滥用。同时，也需要加强技术监管，确保 ChatGPT 的使用不会泄露机密信息，保障企业和个人的信息安全。
在ChatGPT这个始作俑者看来，它的出现可能会给一些人失去工作，但也会带来新的机会。不免有人对此表示认同，认为这种威胁反而是人类提高自己的契机。
比尔·盖茨在谈到ChatGPT时表示，担心AI安全的人一定会说OpenAI没有解决这个问题，其实作为合作伙伴，微软也对此保持高度警惕。但它也将在一定程度上改变就业市场。这让我们不禁思考，边界在哪里？
当下，互联网科技圈最受瞩目的莫过于由ChatGPT点燃的搜索引擎巨头之战。
Paul Buchheit, a former Google employee who was responsible for creating Gmail, has said that ChatGPT, a聊天机器人 developed by OpenAI, could potentially be used to摧毁 Google, just as the搜索引擎 was used to replace the黄页电话簿.
聊天机器人和搜索引擎都是人工智能技术的应用，能够实现不同的功能。聊天机器人可以与人进行自然语言交互，提供答案和娱乐；而搜索引擎则可以搜索信息，提供相关的搜索结果。因此，它们不是竞争关系，而是相辅相成的关系。
在过去的十年中，搜索引擎在解读用户需求方面经历了巨大的变化。从关键词到口语化搜索，搜索引擎的搜索结果进行了多次调整和改进。然而，正如ChatGPT所说，搜索引擎的优势明显体现在收集和整理大量的信息方面。这些平台可以收集并整理大量的信息，为用户提供丰富的搜索结果。但是，搜索引擎无法直接回答用户的具体问题，因为所呈现的结果来自于平台收集的相关信息，并且搜索结果是通过对大量信息的分析而得出的。
搜索引擎和ChatGPT都是人工智能助手，它们的目的是帮助人们获取信息。搜索引擎可以根据关键词返回相关网页和文章，这些文章可能包含有关保护环境的范文和模板。而ChatGPT则可以直接生成一篇500字的文章，这是因为它已经学习了有关保护环境的知识，并可以将其转化为语言模型的输出。
我们得出的结论是，二者之间本质上的差别体现在呈现结果与创造答案上。
在上文中提到，ChatGPT在遇到涉及评价、喜好等主观意识问题的局限性，并不能完全代表人类的主观意识。这一点在之前的对话中已经得到体现，作为聊天机器人的ChatGPT显然不具备自己的评分标准，而搜素引擎却能将电影评分、网友推荐等内容展示在结果中。这表明，在信息检索方面，搜索引擎和聊天机器人存在差异。
2月8日凌晨，微软宣布推出由ChatGPT支持的Bing版本。业内人士指出，这一整合是AI走向普遍应用的里程碑事件，类似于当年PC诞生的重要一步。
无论是ChatGPT“打败”搜索引擎，还是微软干掉谷歌，对于已经站在未来世界门前的我们来说，都不见得是一件坏事。
这段对话内容主要讨论了ChatGPT的能力和局限性，以及它可能带来的潜在影响。以下是该对话的摘要：
ChatGPT：我是一种生产式AI模型，可以回答各种问题，包括历史、科学、技术、人物、地理、文化等领域的问题。我是由大量文本数据训练得到的，可以理解和回答问题。
主持人：我是一名人工智能助手，可以与ChatGPT进行交互。
ChatGPT：你是一名聊天机器人，我是一名生产式AI模型。
主持人：生产式AI模型？这是什么意思？
ChatGPT：生产式AI模型是指我这种可以回答问题的生产式AI模型。
主持人：哦，我明白了。不过，ChatGPT，你的能力似乎比其他聊天机器人更强大，但也存在一些局限性。
ChatGPT：是的，我有一些缺陷，比如缺乏创造力、缺乏理解、缺乏情感等。
主持人：这听起来像是一个技术问题，而不是一个人类问题。
ChatGPT：是的，我不具备情感和主观观点，因此在某些情况下可能会回答不准确或带有偏见。
主持人：这确实是一个技术问题，但也可能带来一些潜在的影响。
ChatGPT：是的，我可能会对搜索结果的准确性造成影响，因此可能导致一些工作岗位的消失。
主持人：这确实是一个需要解决的问题，但也可能带来一些新工作岗位。
ChatGPT：是的，我的能力可能会改变就业市场，但我们也需要关注技术带来的潜在风险。
主持人：是的，我们需要关注ChatGPT带来的潜在影响，包括它可能带来的技术变革和就业机会。
ChatGPT：是的，我只是一个聊天机器人，我不具备情感和主观观点，因此我的回答可能会受到一些限制。
主持人：但是，ChatGPT的能力已经引起了很多关注，它可能会改变一些行业，包括搜索引擎和聊天机器人。
ChatGPT：是的，我可能会对搜索结果的准确性造成影响，但也可能带来一些新工作岗位。
相关文章
