文章主题：大型语言模型, ChatGPT, 时代变革, 危与机
原标题：ChatGPT狂飙背后的危与机｜邱锡鹏、严锋、张诚、沈李斌圆桌对话
“倒逼我们对真实有更多的关注和追求。”
“一定要让它对齐人类的价值观。”
“如果没有了入门职位，人们通过何种途径成长起来呢？”
“让它停一下，谨慎一些，并不是不可以。”
在4月1日这场由复旦大学科技创新先锋论坛所举办的活动中，主题为“Beyond ChatGPT：大型语言模型引发的时代变革”的演讲，吸引了广大师生及校友们的热烈关注。活动地点位于复旦大学管理不善楼李达三楼2楼报告厅，然而该场活动的门票却在一票难求的情况下迅速售罄。
在一场由邱锡鹏、严锋、张诚三位知名教授与复旦科创企业家营的校友沈李斌共同参与的对话中，他们针对“ChatGPT狂飙背后的危与机”这一主题进行了深入探讨。
ChatGPT对行业及社会发展有哪些影响
我们的工作会被替代吗
机器与人如何和谐相处
如何打造中国的AGI生态
……
MOSS开源，建立生态
邱锡鹏 复旦大学计算机科学技术学院教授、博士生导师，MOSS系统负责人
有了MOSS之后，底层的重复性的工作就不要做了。
ChatGPT 的表现目前类似于通才,但在专业性方面与顶级专家仍存在较大差距。这主要是因为它的通用性,能够应对各种不同的问题和任务。不过,随着技术的发展,类 ChatGPT 的大型语言模型在语言层面的表现将更为出色,同时在专业性方面也会向不同领域拓展,例如医学、金融和法律等领域。邱锡鹏教授对此表示肯定,他认为这种模型在未来会变得更为实用和高效。
邱锡鹏教授强调，ChatGPT虽然具备一定的创作能力，特别是在不断与用户互动的过程中，能够生成约100多页的科幻小说，同时在计算机编程领域也展现出了强大的技能，能够胜任较为基础的编程任务。然而，针对那些需要高级创新性和整合性的任务，人类的专业知识和创造力仍然是不可或缺的。
在我看来，尽管人工智能能够取代部分职业，但它无法替代那些擅长运用AI的人的工作。人类的适应性和灵活性使我们能够在利用AI的同时，将工作做得更加出色。此外，我们需要具备综合思考和判断能力，这是非常重要的。相较于机器学习，人类的学习方式存在天然劣势。人类的学习速度较慢，而机器迭代的速度则非常快且不知疲倦。为了实现快速发展，我们应该积极拥抱这些新技术，并利用它们推动我们的学习，使我们的成长速度加快。
在社会或世界的复杂性不断提升时，人类的理解能力往往受到局限。在这种情况下，机器可以通过处理大量数据来挖掘潜在的关联关系，从而推动第四范式的发展。我们不再需要过分依赖原有的科学假设，而是关注实际的相关性。对于未来的人工智能及其应用产品，我们需要确保它们与人类的价值观保持一致，这样才能实现人类与机器之间的和谐共处。
邱锡鹏教授对于MOSS的看法是积极的，他希望能够看到这个项目以开源的形式发展，并推动我国人工智能领域的生态建设。他认为，MOSS的出现将极大地减少底层重复性工作的需求，因为有了它，我们可以提供一个统一的语言和基础架构，从而更好地对接国产算力，制定出通用的接口规范。这样一来，不仅可以促进各个领域之间的合作与交流，更能推动我国人工智能技术的整体进步。
替代你的不是AI，是善用AI的人
沈李斌 上海乐言科技股份有限公司创始人兼CEO，复旦科创企业家营校友
善用创造性能力的企业，肯定在进阶优势上比其他公司要强。
凭借自己在机器翻译领域的丰富经验，他坚信ChatGPT的技术具有颠覆性意义。过去，人们普遍认为在教师、金融业和众多脑力劳动者等领域，需要大量的知识积累。然而，事实上，大部分重复性任务已经具备被机器替代的能力。随着技术的发展，越来越多的行业将逐步实现人工智能的替代。尽管如此， he 对某些入门职位可能会因AI的到来而消失表示担忧。他提到：“我们现有的资深专业人士，大多是通过这些入门职位成长起来的。如果没有这些入门职位，人们将如何实现自我成长呢？”
那么，AI生成技术对企业的发展又会带来怎样的影响呢？沈李斌说，“替代你的不是AI，是善用AI的人。对人是这样，对企业也是这样。”在他的公司里，所有部门都去看怎么用类似生成技术提高生产效率，在各种流程上怎么去用AI。“能够善用这些创造性能力的企业，肯定在进阶优势上比其他公司要强，这是一个比较大的结构性的机会。”他进一步指出，“生成式能力产生之后，生产力大大提升，很多企业与企业之间的上下游关系会发生变化，这也是结构性的机会。”
在谈到人工智能技术在大规模的商业化的进程中，如何通过机制确保技术不被滥用时，沈李斌建议：政府监管需要考虑怎么让技术变成“符合社会价值观的，体现社会公平性的可信、可依赖的AI”；鼓励企业先用起来，并多做一些分享，“生成式AI三要素中，数据是比较关键的因素，像MOSS是不是可以考虑做产线结合，吸引工业界加入，让MOSS成长得更快。”
ChatGPT对我们的倒逼
严锋 复旦大学中文系教授、博士生导师
成为更积极的提问者。
“去年12月我就用ChatGPT了，刚开始挺失望的。我让它根据刘慈欣科幻小说《三体》的设定，写一个ChatGPT版的三体。它还真写出来一个梗概，初看头头是道，也可以说很理性，但缺少艺术性和独特性，也缺少一种打动人的力量。”
严锋教授认为，ChatGPT不是曹雪芹也不是刘慈欣，但可以是一个平庸的小说家。ChatGPT在搜索、提炼方面效率很高，至少可以成为一个很好的头脑风暴工具，为作家提供各种素材、场景和点子。
ChatGPT的出现会不会取代一些人的工作？在他看来，一些传统的教师职能会被替代。所谓师者，传道授业解惑也。ChatGPT的解惑能力已经相当强了。当学生有疑问时，教师的可信度是非常重要的。如果ChatGPT的回答有足够可信度，教师的这部分职能可能会被替代。这就需要教师重新学习和适应，再出发。
由此生发开去，严锋教授谈到了ChatGPT对人类的倒逼——
倒逼我们不要再生产学术垃圾。很多的知识和学问都是事实性的东西，完全可以把它们放在一个数据库里，需要用的时候再提取。比如一些人文社科论文，本身就是复制粘贴或有很多“水分”，“ChatGPT会不会倒逼我们，从低效重复的劳动中解放出来，从而更专注更有效地学习，也更富独创性。”
倒逼我们成为更积极的提问者。其实如何做一个好的提问者，这本来就是一项需要不断完善的传统技能。现在这个问题变得更迫切了。
倒逼我们成为更有情商的人。人类的优势和特长在哪里？我们怎么去扬长避短？这就需要我们更好地处理人与人、人与机器、人与环境的关系。
倒逼我们对真实有更多的关注和追求。ChatGPT是一把双刃剑，它可以鉴别真假，同时也能混淆真和假的界限，这就倒逼我们更需要做一个求真的人，一个实事求是的人，一个具有批判性思维的人。
工程暂时超越了科学
张诚 复旦管院信息管理与商业智能系教授、系主任、博士生导师
工程先行并不是坏事。
从文字到创意绘图，ChatGPT和其他生成式AI的出现，让人们对人类的教育和就业产生了危机感。张诚教授指出，目前“研究”这项工作很难被ChatGPT取代，“因为它读的是数据，如果我们的学术文献没有开放，它就无法获取这些信息。”那么人工智能是否可以轻而易举地替代人类的工作呢？张诚教授表示：“如果依赖人工智能替代某项工作的基本工作（如基本的中英翻译），人类可能缺少了学习和经验积累的过程，那么如何来完成更高要求的工作（比如翻译更复杂的文学作品），这对我们是个挑战。”
前不久，生命未来研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。对此，张诚教授认为，从技术的角度来看，公开信的内容是可以理解的：“如果我们认为涌现出来的智能是的确存在的，我的判断是工程暂时超越了科学，即我们对AI是否涌现智能，或者涌现机制还不清楚。有些科学家认为这只不过是一个改进，更像产品创新，因为它可以跟人更好交流而已，而有些科学家认为这的确是可能涌现出了新的智能。在大家还没有完全认识它的时候，让它停一下，谨慎一些，并不是不可以。”
但他同时认为，工程先行并不是坏事：“如果是站在工具的角度，一方面这六个月还不够理解它背后的道理；另一方面，我们使用工具有相应的约束，倒不一定是要通过‘停止’来实现。”而从商业角度来看，张诚教授也提到，对某些企业在先进工具或技术的研发上已经取得了先发优势的情况下，这一举措不排除是商业竞争对手的策略。
* 以上按嘉宾姓氏音序排列，部分内容来自上观新闻返回搜狐，查看更多
责任编辑：
大型语言模型, ChatGPT, 时代变革, 危与机
相关文章
