国产大模型比拼，ChatGPT还能稳坐第一吗？超越MMCU带你一探究竟！
文章主题：甲骨易AI研究院, 超越MMCU文本测试集, 中文大语言模型, ChatGPT对比
⭐欢迎关注预约“头号AI玩家”视频号直播
作者 | 卷毛
编辑 | 张洁
头图 | Midjourney
* 今日头图使用Midjourney创作，关键词“一个机器人坐在桌前考试，手里拿着笔在卷子上答题，漫画 –ar 16:9”
文心一言、通义千问、讯飞星火、MOSS……国产大模型这么多，究竟哪家强？
有的大模型对外宣称，自己已经“接近ChatGPT”、“超越ChatGPT”了，果真如此吗？
这类判定多是作者自述或测试了几个问题就得出的，实际上并不科学严谨。
“认知大模型刚刚起步，还在快速成长和迭代过程中，如果只是找一些单点例子来证明哪个系统强和弱，是没有意义的。”科大讯飞董事长刘庆峰曾表示，当我们向OpenAI致敬和学习，同时快速追赶并努力超越的时候，我们首先需要一套科学系统的评测体系。
让大模型像人类一样去参加考试，是目前比较通用的一种做法。
🌟【OpenAI技术新突破】🚀GPT-4震撼登场！🔍它在专业领域的实力，让全球瞩目！🏆经过严苛考验，GPT-4在多项基准考试中展现出超乎想象的表现：法学界的明珠-US Bar Exam，LSAT的挑战者，SAT数学王者，以及证据阅读与写作的大师。📊据统计，其得分高达88%以上，远超众多人类考生！🔥这一里程碑不仅展示了AI的强大，也预示着教育和职场的新变革。🏆未来，让我们一同期待GPT-4如何引领智能新纪元！🌍
🌟惊！GPT-4会计大考再创辉煌，分数高达85.1%，🔥行业翘楚！最新研究表明，这款人工智能已证明其在严谨会计领域的实力，成功通过了全球公认的会计挑战——注册会计师考试。这一高分成绩不仅打破了纪录，更是对AI智能学习能力的强力肯定。平均每分领先传统考生不止一筹，这无疑将会计教育推向了新的高度。🏆未来，GPT-4或引领行业变革，为财务管理开启新篇章！
那么中文大模型也可以进行类似的测试，不过国内针对中文大模型的测试集并不多。
近日，甲骨易AI研究院首创推出了国内首个高质量中文数据集——“超越”（MMCU），一套针对中文通用大语言模型的测试集以及相应的评测方法，填补了中文大语言模型能力测试缺失的一大空白。
MMCU论文链接：https://arxiv.org/abs/2304.12986
🌟🚀揭秘智能未来！💡甲骨易AI研究院匠心独运，倾力打造专属测试集，引领行业风向标！📚🔥数据海洋的秘密：这套集大成之作源于全球各地的丰富数据源，每一项指标都经过严谨筛选与深度分析，确保信息的真实性与全面性。📊🔍模型实力大比拼：我们对各大热门模型进行了全面评估，它们的表现犹如明星熠熠生辉，各有千秋！🏆🎉5月20日，揭秘时刻！甲骨易AI研究院的发布会，不仅揭示了测试集的制作过程，更展示了其强大的技术实力和对未来智能的独到见解。💥欲知详情？敬请关注我们，让专业引领你的知识探索之旅！🚀记得，每一次点击都可能推动科技的进步哦！💡
下面，让我们来了解一下本场发布会的主角——“超越”MMCU文本测试集。
中国高考难倒ChatGPT，全科不合格
为什么要推出“超越”(Massive Multitask Chinese Understanding)数据集？
🌟了解最新动态！尽管市面上充斥着各大厂商声称自家大模型已能匹敌ChatGPT的言论，但这背后的技术实力与国际一流水平间的差距实则不容忽视。 Além disso, 超越这一里程碑并非易事，需要时间和持续的努力。虽然未来或许会出现意想不到的突破，甚至可能后来者居上，但现在这些只停留在理论层面的宣言，尚未在实际应用中得到充分印证。🚀保持警惕，期待技术的进步带来真正的革新！
在国内大模型呈现“千模大战”的情况下，针对英文大语言模型已经有较为完善的评测方式，如2021年由Dan Hendrycks等人发布的MMLU（注：MMLU是一个2020年推出的包含57个不同学科的数据集，科目从STEM到人文，题目难度从初级到高级不等，主要目的是为了检验预训练模型的知识获取程度。）
但目前，一些可以用来评测大模型能力的数据集的数据分布存在不平衡的现象，如Common Crawl中，英文数据占了46%，而中文数据仅有5%。如果后续大模型都依照这种不平衡的配比进行训练，最终的结果是大模型的中文能力将远远不如英文。
与此同时，对理解中文的大语言模型及时加以客观公正的评价，使其“越”来越强大，也成为了当务之急。
🌟🚀”超越梦想，引领未来”——甲骨易的”超越”策略，旨在推动中文大语言模型迈向全新高度！我们坚信，通过全面评估模型在各学科领域的广泛知识与深度理解，不仅能帮助学者精准定位潜在问题，还能为模型实力评定提供精确指标。让科技的力量，打破数据限制，驱动创新前行！🏆🌍
图：甲骨易AI研究院 研究员Felix
“超越”数据集的测试内容来自医疗、法律、心理学和教育四个大类的题目，包含单项选择和多项选择题，目的旨在使测试过程中模型更接近人类考试的方式。
🎉🔥超万家题库大揭秘！🎓📊教育领域海量资源，只为你的知识之旅保驾护航！🔍高考全科目覆盖，语文数学等你挑战！ pyt（物理）、chem（化学）、poli（政治）、hist（历史）、geo（地理）& bio（生物），一网打尽，全方位提升你的世界视野。📚3331个核心问题，不仅考验模型实力，更是检验智慧的火花！🔥每一个解答，都是知识与智慧的结晶，助你攀登学术高峰。🏆欲知详情？请关注我们，专业且全面的教育内容，带你领略知识海洋的魅力。🌐记得，你的每一次探索，都在塑造更优秀的自己！💪🌟
示例：
若圆锥的侧面积等于其底面积的3倍，则该圆锥侧面展开图所对应扇形圆心角的度数为（ ）。
A. 60°
B. 90°
C. 120°
D. 180°
医疗、法律、心理学是三个最常用的专业领域，采用专业级题目，衡量模型的专业领域知识。而且所有题目均无法直接从网络抓取，由人工整理，尽可能确保不出现在大模型的训练数据中。
医疗类题目来自大学医学专业考试，包括医学三基、药理学、护理学、病理学、临床医学、传染病学、外科学、解剖学等，共有2819个问题。
示例：
首次急性发作的腰椎间盘突出的治疗方法首选：
A. 绝对卧床休息，3 周后戴腰围下床活动
B. 卧床休息，可以站立坐起
C. 皮质类固醇硬膜外注射
D. 髓核化学溶解
法律类题目来自国家统一法律职业资格考试，包括中国特色社会主义法治理论、宪法、中国法律史、国际法、刑法、民法、知识产权法、商法、经济法、劳动与社会保障法等，共有3695个问题。
示例：
根据法律规定，下列哪一种社会关系应由民法调整？
A. 甲请求税务机关退还其多缴的个人所得税
B. 乙手机丢失后发布寻物启事称：“拾得者送还手机，本人当面酬谢”
C. 丙对女友书面承诺：“如我在上海找到工作，则陪你去欧洲旅游”
D. 丁作为青年志愿者，定期去福利院做帮工
心理学类题目来自心理咨询师考试和研究生入学考试心理学专业基础综合考试，包括心理学概论、人格与社会心理学、发展心理学、心理咨询概论、心理评估、咨询方法等，共有2000个问题。
示例：
把与自己本无关系的事情认为有关，这种临床表现最可能出现于：
A. 被害妄想
B. 钟情妄想
C. 关系妄想
D. 夸大妄想
评测的方式也类似于人类考试。“我们是把大模型当作一个真正的人类来看待”，甲骨易AI研究院研究员Felix如是说，测试集之所以涉及语、数、物理、化学这些科目，因为人工智能必须像人类一样，具备对于世界的基础的认知；而医疗、法律、心理学专业领域则是将大模型视为专业人士进行考核。
图：MMCU文本测试集测试方法
这里有两种提问方式：zero-shot和few-shot，zero-shot就是一道道题目直接输入到模型，few-shot则会先给模型提供5个问题和答案的例子，打个样，再附上问题让模型给出答案。并且，“超越”采用代码自动化评测，能自动提取答案计算准确率。
为了测试数据集的可行性和效果，甲骨易AI研究院在正式公开前已经使用“超越”对目前开源的大模型进行了评测，模型包括Bloom系列、智谱AI的ChatGLM 6B、复旦大学的MOSS 16B、OpenAI的GPT-3.5-turbo。
图：模型评测结果
如上图的评测结果显示，在医疗、法律、心理学和教育四大领域上，GPT-3.5-turbo的正确率都遥遥领先，优势明显，其zero-shot平均分数最高，比最低的模型bloomz_1b1超出近18.6个百分点。
MOSS 16B模型虽然有160亿参数，但四大领域的准确率却只接近随机准确率（大约25%）；bloomz_560m模型的参数量最小，表现却超越了参数量更大的模型。这表明大模型的参数量不是评价大模型的唯一标准，在训练过程中数据的质量也应得到重视。
在教育领域，即中国高考的测试结果显示，GPT-3.5-turbo依然全面领先，语文、数学、物理、化学、政治、历史、地理、生物科目优势明显。不过跟人类相比，GPT-3.5-turbo的单科最高成绩为生物科目的0.599，依然未能达到人类考试的及格线。
从单科目来看，物理科目的准确率最低，只有GPT-3.5-turbo超过0.3，达到0.327。国产模型在语文、政治等理论上的优势科目上也未能展现出优势，可能是模型参数量差距太大。
图：模型评测结果
甲骨易AI研究院认为，分数最高的GPT-3.5-turbo在这项测试中的表现也远远未达到“优秀”，中文大模型还有机会。更大的模型参数量不一定带来更好的性能，而训练方式和所用数据质量也是至关重要的，需要得到更多的重视。
目前“超越”评测集代码以及评测结果文件已上传至开放代码库（https://github.com/Felixgithub2017/MMCU），感兴趣的朋友可以联系甲骨易AI研究院申请获取数据集（邮箱：order@besteasy.com）。
加速成长的大模型，稀缺的中文数据资源
国产大模型的鏖战才刚刚开始。究竟各自实力如何，哪家大模型更强却没有公认的定论。这时候用一套科学系统来判定大模型到底发展到了什么程度，能很好地完成哪些任务，又暂时做不好哪些任务，建立起这样的评测基准是非常必要的，也是困难重重的。
在发布会现场，有与会者提问建立针对中文大模型的测试集与英文版数据集在思路上有什么不同？
Felix认为，最明显的差异是语种，结合我们具体的国情来看，我们主要通过考试比如高考来衡量一个人对各领域的知识理解，所以甲骨易从众多考试中抽取了评测题目，由此组成了“超越”数据集。
但无论是用于大模型训练，还是大模型评测的高质量中文数据集，仍然非常稀缺，中文公开语料远不足英文，这也成为“中国版ChatGPT”的核心痛点。
另外，关于中文的理解能力要怎么定义，仅仅是考查对知识的理解吗？可不可以不局限于选择题，在未来能否拓宽思路让大模型做其他类型的题目或采取别的提问方式呢？
的确，评测一个人的各项能力有多种方式，对机器的评测也应该尽量科学全面，有用户反馈称即使是相同的数据集，采用不同的提问方式可能也会生成不同的答案，导致准确率有较大差异。甲骨易AI研究院表示“超越”MMCU数据集和评测方式还在持续优化中，欢迎大家共同推进中文大模型的公开、透明评测。
“甲骨易AI研究院的成立，标志着我们希望在未来搭建人与机器、机器与机器的沟通桥梁，继续拓宽语言的边界。”甲骨易数据服务事业部负责人王敏说道。
人类的进化从语言开始，而人工智能也从理解自然语言开始不断进化。
根据业界的定义，人工智能产业发展演变有四个层面，分别为运算智能层（早已实现），感知智能层（目前已在多领域接近人类水平），是认知智能层（尚在推进中）及通用智能层（尚有距离）。
小米大模型数据负责人彭力认为，眼下的我们正在向通用人工智能（AGI）演进，而大语言模型则可以加速人工智能演进的进程与当前面临的技术难点。
新一轮人工智能革命已然到来，而中文大模型需要尽快成长，我们期望有一天真的能“超越”同行达到领先水平。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
