跨越ChatGPT大模型和AI2.0的未来演讲PPT(附下载)
原标题:跨越ChatGPT大模型和AI2.0的未来演讲PPT(附下载)
今天分享的大模型系列深度研究报告:《跨越ChatGPT大模型和AI2.0的未来演讲PPT》。
(报告出品方:财经年会)
报告共计:20页
海量/完整电子版/报告下载方式:公众号《人工智能学派》
AI进入“大模型时代
GPT-3,Palm,LamdaGopher, OPTBloom,GPT-Neo,威震天-图灵NLG,GLM-130 B,ChatGPT等都在他们的变压器中使用原来的注意层。
AI2.0:模型到数据的转变
AI1.0:模型/编程为中心
训练用的数据是从机器学习发展过程中外生的;聚焦模型特征,算法设计,和定型的结构设计。
AI2.0:数据为中心
数据的规模和质量日益成为获得理想结果的关键要素。模型可以相对固定,主要关注数据的定义、管理、切割、扩充,增加、修正等。使得数据更有效。有计划的标注、分类和迭代数据是关键。专项领域的专家 (SMEs)参加是发展过程的内在组成部分,以专家的知识编码。
AI 2.0
1.基础模型:Transformer成为基础架构,走出NLP,走向计算机视觉领域、AIfor Science(特别是结构生物学蛋白质和RNA结构预测)和人工智能生成内容AIGC。[技术膨胀期]
2.生成式人工智能:Diffusion Models突飞猛进,匹敌GAN。[技术膨胀期]
3.以数据为中心的人工智能: 从模型为中心到数据为中心。[技术萌芽期]
4.因果人工智能:因果关系与人工智能的结合。[技术萌芽期]
5.复合型人工智能:“连接主义”(Connectionism)与“符号主义”(Symbolism) 相结合。[技术萌芽期]
6.神经AI:神经科学与人工智能交叉研究。[技术萌芽期]
DeepMind 突破性进入物理科学,特别在数学和材料科学
构建一个猜测或假设和有关联方面变量的模型。通常用观察到的大规模这些变量的实体价值,用数据主动的猜测产生模型。DeepMind 构建一个由数学家和监督ML模型 (NN)相互作用的两个工作流,数学家提出假设,由两个变量的方程,投入input X(z) and 产出 Y(2))计算机产生大量数据的变量实体,N 模型模拟拟合数据。决定最接近的相关投入 X(2),数学家进一步微调和优化假设。程序重复,直到假设被大规模数据支持。