AI进入“大模型时代

GPT-3，Palm,LamdaGopher, OPTBloom，GPT-Neo,威震天-图灵NLG，GLM-130 B,ChatGPT等都在他们的变压器中使用原来的注意层。

AI2.0:模型到数据的转变

AI1.0:模型/编程为中心

训练用的数据是从机器学习发展过程中外生的；聚焦模型特征，算法设计，和定型的结构设计。

AI2.0:数据为中心

数据的规模和质量日益成为获得理想结果的关键要素。模型可以相对固定，主要关注数据的定义、管理、切割、扩充，增加、修正等。使得数据更有效。有计划的标注、分类和迭代数据是关键。专项领域的专家 (SMEs)参加是发展过程的内在组成部分，以专家的知识编码。

AI 2.0

1.基础模型:Transformer成为基础架构，走出NLP，走向计算机视觉领域、AIfor Science(特别是结构生物学蛋白质和RNA结构预测)和人工智能生成内容AIGC。[技术膨胀期]

2.生成式人工智能:Diffusion Models突飞猛进，匹敌GAN。[技术膨胀期]

3.以数据为中心的人工智能: 从模型为中心到数据为中心。[技术萌芽期]

4.因果人工智能:因果关系与人工智能的结合。[技术萌芽期]

5.复合型人工智能:“连接主义”(Connectionism)与“符号主义”(Symbolism) 相结合。[技术萌芽期]

6.神经AI:神经科学与人工智能交叉研究。[技术萌芽期]

DeepMind 突破性进入物理科学，特别在数学和材料科学

构建一个猜测或假设和有关联方面变量的模型。通常用观察到的大规模这些变量的实体价值，用数据主动的猜测产生模型。DeepMind 构建一个由数学家和监督ML模型 (NN)相互作用的两个工作流，数学家提出假设，由两个变量的方程，投入input X(z) and 产出 Y(2))计算机产生大量数据的变量实体，N 模型模拟拟合数据。决定最接近的相关投入 X(2)，数学家进一步微调和优化假设。程序重复，直到假设被大规模数据支持。

德克萨斯A&M大学等开发人工智能框架寻找耐氧化高熵合金

德克萨斯A&M大学与埃姆斯国家实验室研究人员联合开发了一个人工智能框架，可以预测能够承受极端高温和氧化环境的高熵合金，大大减少实验数量，节约时间和成本。

高熵合金(HEA) 由多种占比相近的金属元素构成，相比传统合金具有很多独特性质，例如很好的耐高温性能。但是HEA往往很容易氧化，因此需要通过大量实验寻找具有耐氧化能力的HEA。这类耐高温耐氧化材料在航空航天、核反应堆、化工设备等领域具有广泛而重要的作用。

为了降低寻找耐氧化HEA的时间成本，研究人员开发了一个人工智能框架用于预测HEA性质该框架结合了计算热力学、机器学习和量子力学，能够定量地预测任意化学成分的HEA的氧化情况，计算筛选合金所需的时间从几年缩短至几分钟。虽然该框架的预测结果不是百分之百准确，但是可以筛选出不能满足要求的合金，为科学家提供优化设计的宝贵信息。研究人员表示，该研究能够促成耐高温、耐氧化新材料的发现，有助于实现碳排放目标。