文章主题：
🌟【118周年校庆】智慧激荡：赵星&蒋卓人聚焦生成AI，光华东辅楼报告厅深度解析！🚀于5月18日下午，相辉校庆系列学术盛宴的第十站，在光华楼东辅楼102报告厅热烈开启。这场别开生面的学术报告，由复旦大学国家智能评价与治理实验基地的重量级人物赵星教授和浙江大学公共管理学院信息资源管理系的青年才俊蒋卓人研究员联袂呈现，线上线下同步探讨生成式人工智能的未来挑战与治理之道。💡活动由复旦大学图书馆副馆长兼实验基地副主任王乐博士亲自主持，智慧火花在学术殿堂中熠熠生辉。两位专家深入浅出地剖析了这一前沿科技领域的核心议题，为观众带来了一场知识与思想的盛宴。👩🏫👨💻这场报告不仅吸引了众多师生和行业人士的关注，也充分展示了复旦与浙江大学在智能领域合作交流的深度与广度。让我们共同期待更多这样的学术盛宴，共享智慧的果实！🌱#118周年校庆 #生成式AI #智慧治理
🎉🚀人工智能已深深渗透到我们的日常生活中，从苹果的Siri语音助手引领潮流，再到奥斯卡七冠电影《瞬息全宇宙》的震撼展示，无不彰显其无处不在的力量。此刻，ChatGPT等创新工具正以燎原之势席卷全球，掀起一场人工智能狂飙！🌟🔍趙星与蒋卓人联手，为我们献上了一场别开生面的知识盛宴——穿越生成式AI的历史长河，洞察其当下形态，展望未来可能。他们将深入剖析这项技术带来的挑战，引发我们对如何驾驭和规范它的深度探讨。💡🛡️让我们一起紧跟人工智能的步伐，探索未知，应对挑战，共同塑造一个智能与人性和谐共生的未来世界！🌍💻
生成式人工智能的前世今生
🎨在黄昏的余晖被乌云吞噬之际，一抹微弱的光线穿透风雨，照亮了坚韧的小草。叶片上的水珠，在雨滴的敲击下闪闪发光，仿佛在诉说着夏日的故事。👀蒋卓人巧妙地引领我们进入这个由创新AI驱动的世界，视频《Summer showers》便是其精心呈现的艺术品。这段视觉盛宴，虽由人工智能生成，却展现出无与伦比的创造力和生动性，每一帧都像是大自然的即兴演奏，让观者仿佛置身于那场短暂而热烈的阵雨中。🌈无需关注背后的技术细节，只需沉醉在这份由科技带来的艺术享受之中。这样的作品，无疑是对自然之美的致敬，同时也揭示了人工智能在创意领域的无限可能。它以一种新颖且引人入胜的方式，打破了我们对传统艺术形式的认知，激发了人们对新兴技术的好奇和探索。🌱SEO优化提示：使用相关关键词如”黄昏余晖”、”乌云遮日”、”小草风雨”、”人工智能创作“、”夏日阵雨”、”创新艺术”等，并适当增加emoji符号以提升可读性和情绪表达。
何为生成式人工智能？
🌟🚀探索未来科技新纪元！🔍生成式AI，未定义但引领潮流🔥 —— 一款创新智能引擎，以提示为钥匙，解锁无限可能🎨。它能巧手编织文字，绘制出色彩斑斓的图像，将创意转化为触手可及的现实。🌍无论艺术创作、文案撰写，还是复杂信息的自动生成，皆是它的拿手好戏。🚀让AI智慧引领你探索知识的海洋，开启智能新时代！🌐
历史悠久的技术并非一夜之间就能显现，它历经了漫长的岁月沉淀，蒋卓人如是阐述。在生成式AI领域，长达九十年的研发过程中，人类的智识无疑熠熠生辉，留下了诸多闪耀瞬间。
原文改写如下：🌟1932年，创新先驱Georges Artsrouni推出了革新性装置——”mechanical brain”，一款以纸带为媒介的早期翻译工具。它通过检索多维词典实现智能转换，开启了生成式人工智能的先河。尽管技术相对原始，与现代机器翻译系统有显著差异，但它定义了生成式AI的核心理念：用户输入，机器产出全新内容。🚀
在20世纪中，麻省理工学院创造了最早的生成式人工智能之一Eliza，Judea Peal（朱迪亚·珀尔）引入了贝叶斯网络因果分析概念，Yann Lecun（杨立昆）等展示了如何利用卷积神经网络来识别图像……
2006年，华裔计算机科学家李飞飞着手构建数据库ImageNet。该数据库中有超过1400万张手工标注的图片，包含超过2万个类别。“正是有了这样一个庞大数据库的支撑，深度学习才能得以兴起。所以我们总说，好的科研品味，加上持续不断的努力，就能成就一段好的学术生涯。”蒋卓人评价。
ChatGPT何以成为明星产品？
1750亿参数量，3000亿训练单词数，这是ChatGPT的数据。2022年发布后，ChatGPT在短短两个月内吸引了超过1亿的用户，成为有史以来用户增长最快的应用。
蒋卓人认为，要理解ChatGPT，就要理解它的关键技术：大模型基础训练、指令微调、人类反馈强化学习。
“大模型的全称是大型语言模型，”蒋卓人讲道，“它是一种概率模型，能告诉你一个词出现的概率是多少。”
比如，在The students opened their这句英文后面，可以出现books、laptops、exams、minds等词。“但它们出现的概率是不一样的。一个好的语言模型，能精准地预测下一个词是什么。”蒋卓人说。
随着语言模型的发展，它具备了良好的语言理解能力，但如何让其与人类建立对话呢？
研究者们提出的办法是指令微调。通过引入思维链以及代码生成，大模型的推理能力得以提升。“这种能力对于大模型来说至关重要，使其可以在开放领域有很好的表现。”蒋卓人评价。
至此，大模型初步具备了回答人们提出的任何指令的可能，但回答的质量却参差不齐，如何让大模型持续性地输出高质量回答呢？
研究者们又为此设计了一套基于人类反馈的强化学习方法，即通过大模型的微调、奖励函数的训练、以及大规模强化学习的优化来确保高质量回答的生成。“OpenAI就是使用这种方法，大幅度降低了数据集构建成本。”蒋卓人说。
生成式人工智能：新智能面临新挑战
面对生成式人工智能带来的挑战，赵星从资源、技术、应用与社会伦理四个维度进行解读。
从资源维度来看，生成式人工智能需要高质量的数据，而中文世界的数据质量弱于英文。赵星认为，即使有很强大的翻译能力，类ChatGPT工具的中文处理效果也显著弱于英文，核心的原因之一是投喂的中文数据质量较差。另外，硬件技术也是支撑我国人工智能产业高速发展的关键要素。
“科技界曾将人工智能的应用比作炼金术，”赵星打趣道，“人们将数据一股脑往模型里面扔，至于能否炼出有价值的东西，炼出的是什么，却没有明确的预期。”很明显，在技术层面上生成式人工智能存在内生的不确定性。
“当我们准备向全社会投放一种通用性工具，却不能明确它的科学原理是什么，就一定会有内生性的风险。”人工智能风险中最核心的一点在于其结果的不可承受性。“我们很少在治理问题上处于如此无力的状态，”赵星说。在应用层面上，生成式人工智能产业发展的确定性与风险治理的不确定性将长期存在。
而在社会方面，生成式人工智能不仅深陷知识产权与信息泄漏问题，或也将塑造真正的信息茧房。“当生成式人工智能24小时都伴你身边，潜移默化地，你会误认为一切都是你自己的决定。”
赵星警示，“我们面对的，是一个会在短时间内崛起，或将引起严重后果且后果未知的事物。”
内生安全治理：让危机“已知”
面对生成式人工智能这个新对手，赵星认为不能沿用传统治理“被动回应外在威胁”的方法。相反，他的团队正在着眼于借助复旦大学大数据研究院院长邬江兴院士提出的“内生安全理论”，构建生成式人工智能治理的新模型。
“我们能否在未知的风险爆发之前找到抵抗它的办法？这是生成式人工智能内生安全治理要解决的问题。”赵星说，“我们需要在人工智能风险来临前，给人类社会点亮一个新的技能树：应对人工智能非传统安全问题的能力。”
生成式人工智能的治理模型涵盖了三个层面。最外层是法律的监督与规约，中间层是管理层的敏捷治理，尤为强调的最内层是教育。在法律和政府治理之前，高等院校应和所有的教育机构一起，完成针对全人类的社会性融合人工智能的教育和训练。
“我们应当在每一位年轻人的成长过程中，让他们学会如何与人工智能良好共处与规避“信息茧房”，以及如何去做一个智能社会中的‘好人’。”
内生安全治理模型的原理，是基于群体智能将个体“未知的未知”转化为群体“已知的未知”，从而进一步将其转化为“已知的已知”。
“当我们知道可能的风险是什么、产生在何处，生成式人工智能治理便有机会转化为常规性安全问题，我们就能尝试寻求到治理闭环的实现。”赵星说，“然而这仍需要理论、实践上长期的探索。”
赵星团队也开始探索生成式人工智能在科学评价中的应用，创新构建了“客观数据、智能算法、专家评议”三者和谐共生的“数智人”评价与治理新范式。近期团队也在开展利用类ChatGPT工具进行智能评价系统构建的探索实验。
“初步结果显示，虽然现阶段的生成式人工智能远没到能胜任学术评价这样的严肃评价工作的程度，”赵星表示，“但生成式人工智能表现出的“跨学科”评价能力和“涌现”推断预测潜力值得高度关注。”
✦
主讲人信息
✦
赵 星
复旦大学大数据研究院教授
国家智能评价与治理实验基地副主任
入选上海市曙光学者，近年在JASIST、JOI、《中国图书馆学报》和《情报学报》等国际国内知名同行评议刊物上发表论文百余篇，主持包括国家自然科学基金、国家社科基金重大项目子项、上海市软科学重点战略项目等在内的各类科研项目50余项。任中国索引学会青年委员会主任、上海市图书馆学会青年学者委员会主任等十余学术兼职。近年获教育部人文社科研究优秀成果奖青年奖、上海市哲学社会科学优秀成果奖一等奖、中国科技情报学会青年情报科学家奖等三十余项各类荣誉。
研究方向：信息资源管理、科技评价与智能评价、智能社会与智能治理、元宇宙与数字经济
蒋卓人
浙江大学公共管理学院信息资源管理系“百人计划”研究员
阿里巴巴达摩院语言技术实验室顾问；中国人工智能学会青年工作委员会委员；中国中文信息学会情感计算专委会委员，中国中文信息学会青年工作委员会通讯委员、信息检索专委会、社会媒体处理专委会通讯委员，广东省医疗行业协会超声医学创新与发展管理分会第一届委员会委员；ACM（国际计算机学会）Professional Member；ACM SIGIR（国际计算机学会信息检索专业组织）Member；ACL (国际计算语言学学会）Member；CCF（中国计算机学会）会员。
研究方向：计算社会科学，文本挖掘， 自然语言处理，信息检索
组 稿
校融媒体中心
文 字
许文嫣、朱宸颉
摄 影
廖恒
责 编
李怡洁
编 辑
刘怡然
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
