基于可解释人工智能技术的用于水位多步预测和水文气象敏感性分析的 Transformer 改进型模型

May, 2024

基于可解释人工智能技术的用于水位多步预测和水文气象敏感性分析的 Transformer 改进型模型

A Transformer variant for multi-step forecasting of water level and hydrometeorological sensitivity analysis based on explainable artificial intelligence technology

PDF

Mingyu Liu, Nana Bao, Xingting Yan, Chenyang Li, Kai Peng

TL;DR通过结合稀疏注意机制和引入非线性输出层的变体模型，本研究基于变压器模型对水位进行多步预测，并考虑同时的气象和水文因素。结果表明，该变体模型相比传统的变压器模型，在不同的前瞻时间内以各种评估指标显示出更好的性能。基于 XAI 技术的敏感性分析显示出气象因素对水位演变的显著影响，其中温度是最重要的气象因素。因此，同时考虑气象和水文因素对可靠的水文预测和防洪工作至关重要，并且 XAI 技术帮助理解预测结果并评估其合理性。

Abstract

Understanding the combined influences of meteorological and hydrological factors on water level and flood events is essential, particularly in today's changing climate environments. Transformer, as one kind of the cutting-edge deep learning methods, offers an effective approach to mode

meteorological factors hydrological factors transformer variant water level xai technology

发现论文，激发创造

用 Transformer 网络探测水文预测的极限

本文研究发现，普通 Transformer 结构在水文建模方面的性能不如 LSTM 结构；去除循环结构的变体可以与 LSTM 相媲美，但是与当前最先进技术相比性能并不突出。

Jun, 2023

天气和气候的 AI 基础模型：应用、设计和实施

机器学习和深度学习方法在理解大气混沌行为和推进天气预报方面已得到广泛应用。在构建地球的数字孪生体方面，科技公司、政府机构和气象机构表现出越来越多的兴趣。我们回顾了当前最先进的人工智能方法，主要来自于变换器和算子学习文献，并结合气象学的背景提出了成功的标准，期望实现一系列基础模型用于即时预报和天气气候预测。我们还讨论了这些模型在下游任务中的竞争力，如下降尺度（超分辨率）、火灾有利条件的识别以及对各种时空尺度（如飓风和大气河流）具有重大影响的气象现象的预测。特别是，我们认为当前的人工智能方法已经发展到足以设计和实施一个气象基础模型的成熟阶段。

Sep, 2023

基于 Transformer 模型的广义水文预测：120 小时流量预测

该研究探讨了 Transformer 模型在美国爱荷华州 125 个不同位置的 120 小时溪流预测中的有效性。利用前 72 小时的数据，包括降雨量、蒸发蒸腾量和流量值，我们开发了一个通用模型来预测未来的溪流流量。我们的方法与通常依赖于特定位置模型的传统方法相反。我们将 Transformer 模型的性能与三个深度学习模型（LSTM、GRU 和 Seq2Seq）以及持久性方法进行了基准测试，利用 Nash-Sutcliffe 效率（NSE）、Kling-Gupta 效度（KGE）、Pearson 相关系数和归一化均方根误差（NRMSE）作为度量标准。研究结果显示 Transformer 模型的卓越性能，具有更高的中位数 NSE 和 KGE 分数，并展现出最低的 NRMSE 值。这表明它能够准确模拟和预测溪流流量，并能有效适应不同的水文条件和地理变化。我们的发现强调了 Transformer 模型在水文建模中作为先进工具的潜力，相比传统和现代方法具有显著改进。

Jun, 2024

基于远程联系信息的高效亚季节气象预测

借助预训练的 Pangu 模型和基于电涡流的时间模块，我们的研究提出了一种电涡流通知变压器方法，能够改善未来天气状况的预测能力并提高输出的空间精度。此外，我们的方法还提供了利用现有基础模型进行多功能下游任务的资源高效途径。

Jan, 2024

深度学习下重新思考时间序列预测：一步前行两步退后

本文介绍了 Transformer 在时间序列预测方面的应用，探讨了其局限性，并提出了一系列更好的性能和更少复杂度的其他模型。

Apr, 2023

规模化 Transformer 神经网络用于高技巧和可靠的中期天气预报

通过 Stormer，一种基于转换器模型的简单天气预报方法，我们能够以较少的训练数据和计算量实现与现有方法相媲美的准确性，在 7 天以上的天气预报中表现出色，并展示了其有利的扩展性。

Dec, 2023

人工智能提高全球可靠洪水预测的便利性

我们开发了一种基于人工智能的模型，能够提前七天预测极端水文事件，该模型在全球各大洲、各种提前期和重现期下均优于现有的全球水文模型，特别适用于没有测量的流域，该研究的成果已被纳入全球超过 80 个国家的运行中的预警系统，提供免费的实时预测。

Jul, 2023

基于深度神经网络的分散式洪水预测

该研究旨在探讨人工深度神经网络在洪水预测中的性能，为预测水位、提供数据集，并表明神经网络在时间序列预测中非常有用，并支持通过数据同化来改进现有模型。

Feb, 2019

可解释的人工智能整合特征工程用于野火预测

通过深入研究，我们评估了各种机器学习算法在预测野火相关任务中的分类和回归任务方面的有效性。我们发现，对于不同类型或阶段的野火分类，XGBoost 模型在准确性和稳健性方面优于其他模型。与此同时，Random Forest 回归模型在预测受野火影响范围方面展现出更好的结果，同时在预测误差和解释方差两方面表现出色。此外，我们还开发了一个集成数值数据和图像信息的混合神经网络模型，用于同时进行分类和回归任务。为了深入了解这些模型的决策过程并确定重要的特征，我们利用了可解释的人工智能（XAI）技术，包括 TreeSHAP、LIME、Partial Dependence Plots（PDP）和 Gradient-weighted Class Activation Mapping（Grad-CAM）。这些解释工具揭示了各种特征的重要性和相互作用，突出了影响野火预测的复杂因素。我们的研究不仅证明了特定机器学习模型在野火相关任务中的有效性，而且强调了模型透明度和可解释性在环境科学应用中的关键作用。

Apr, 2024

透明且鲁棒的基于数据的风力涡轮机功率曲线模型

该论文引入了可解释的人工智能框架，通过 Shapley 值和最新的可解释 AI for 回归方法，从 SCADA 数据中学习风力发电机功率曲线模型。研究结果表明，学习策略可以更好地指示模型的鲁棒性，比验证集或测试集错误更有用。本文提出了在风力涡轮机性能监测中利用 XAI 的方案，最终目标是选取更透明和鲁棒的数据驱动风力涡轮机功率曲线模型。

Apr, 2023