机器学习和深度学习方法在理解大气混沌行为和推进天气预报方面已得到广泛应用。在构建地球的数字孪生体方面，科技公司、政府机构和气象机构表现出越来越多的兴趣。我们回顾了当前最先进的人工智能方法，主要来自于变换器和算子学习文献，并结合气象学的背景提出了成功的标准，期望实现一系列基础模型用于即时预报和天气气候预测。我们还讨论了这些模型在下游任务中的竞争力，如下降尺度（超分辨率）、火灾有利条件的识别以及对各种时空尺度（如飓风和大气河流）具有重大影响的气象现象的预测。特别是，我们认为当前的人工智能方法已经发展到足以设计和实施一个气象基础模型的成熟阶段。

Sep, 2023

人工智能在地球和大气科学领域日益采用数据驱动模型，通过深度学习技术对地球系统的混沌和非线性方面进行解码，以及通过理解天气和气候数据来应对气候挑战。这篇综述全面介绍了针对天气和气候数据专门设计的最先进的人工智能方法，特别关注时间序列和文本数据，同时深入研究了该领域的挑战，并提出了未来研究的详细意见。

Dec, 2023

ORBIT 是一种先进的视觉转换模型，具有 1130 亿个参数，通过创新的张量数据正交并行技术实现扩展。在 Frontier 超级计算机上进行的性能扩展测试表明，ORBIT 实现了 230 到 707 PFLOPS 的性能，并且在 24,576 个 AMD GPU 上保持了 78% 到 96% 的扩展效率。这些突破为基于 AI 的气候建模带来了新的进展，并展示了显著提高地球系统可预测性的前景。

Apr, 2024

地球科学基础模型通过整合大量跨学科数据模拟和理解地球系统动态，以数据为中心的人工智能范例从结构化和非结构化数据中发现见解，灵活的任务规格、多样的输入和输出以及多模态的知识表示使得全面分析成为可能，但在验证和验证、规模、可解释性、知识表示和社会偏见等方面仍存在挑战，提高模型一体化、分辨率、准确性和公平性的跨学科团队合作是关键，尽管当前存在限制，地球科学基础模型通过探索场景和量化不确定性向气候变化、自然灾害和可持续性等紧迫问题提供了关键见解，其不断向集成化的数据驱动建模演化具有改变范式的潜力。

Sep, 2023

基于深度学习的 Prithvi 地球观测模型通过高效前期训练和微调，成功实现地球观测领域多个任务的优化，证明了预训练模型在加速微调过程以及在性能上优于随机初始化权重的作用，并表明可显著减少可用标注数据的数量而不影响模型准确性。

Oct, 2023

该研究介绍了一种名为 ClimaX 的深度学习模型，能够使用异构数据集（跨越不同变量，时空范围和物理基础）进行训练，预测气象和气候。ClimaX 扩展了 Transformer 架构，并表现出优越的性能。

Jan, 2023

本研究针对遥感任务的基础模型研究进行了探讨，提出了一种包括六项分类任务和六项分割任务的基准测试以及可靠的评估方法，并报告了二十种基线模型的结果，旨在推动地球监测领域的模型进展。

Jun, 2023

地球和气候科学基础模型具有巨大潜力， crafting the ideal Earth foundation model， to achieve the ideal model and to evaluate Earth foundation models， energy efficient adaptation, adversarial defenses, and interpretability are among the emerging directions.

May, 2024

本文介绍了基础模型，深度学习中通过模型大小和训练数据广度和大小的扩展可以对未来的 AI 开发造成破坏。基础模型在各种任务领域（如自然语言处理和计算机视觉）中实现了最先进的性能，并且通过进一步的改进常常得到更好的表现。此外，模型的单一化可能会将众多特定任务的模型替换为由少数公司控制的更少数量的大型模型，从而导致对 AI 的权力和控制的转移，并出现新兴的行为方式：上下文学习。

Dec, 2022

基于神经可塑性的多模态地球观测数据的适应性单一框架 ——Dynamic One-For-All（DOFA）模型提供了更准确、高效和统一的地球观测分析方法。

Mar, 2024