Feb, 2024

复杂系统动力学预测的生成学习

PDF
TL;DR通过学习和演变系统的有效动力学，我们引入生成模型来加速复杂系统的模拟。在提出的 G-LED 中，高维数据的实例被降采样到一个更低维度的流形中，并通过自回归注意机制进行演变。反过来，贝叶斯扩散模型将这个低维流形映射到相应的高维空间，捕捉系统动力学的统计特性。我们在几个基准系统的模拟中展示了 G-LED 的能力和局限性，包括 Kuramoto-Sivashinsky（KS）方程、反向阶梯上的二维高雷诺数流动和三维湍流通道流的模拟。结果表明，生成学习为以更低的计算成本准确预测复杂系统的统计特性开辟了新的前沿。
generative modelsaccelerating simulationseffective dynamicsbayesian diffusion modelsgenerative learning
发现论文，激发创造
  • 通过学习其有效动力学实现复杂系统的多尺度模拟

    我们提出了一种通过使用深度学习自编码器模型，将大规模模拟和降阶模型结合起来，以有效地预测各种复杂系统的动态特性的算法，该算法在验证中显示出可行性，并可降低两个数量级的计算成本。

    Jun, 2020

  • 自适应学习有效动态：适应复杂系统的实时在线建模

    提出一种名为 AdaLED 的新型系统框架，以自动编码器为主要工具，利用概率递归神经网络进行时间步进，通过在线训练不断改进，建立预测模型从而实现大规模模拟的高速运行和在线适应性学习，应用在 Van der Pol 振荡器，2D 反应扩散方程和 2D Navier-Stokes 圆柱流中，具有较高的准确性和鲁棒性。

    Apr, 2023

  • 可解释学习多尺度系统的有效动力学

    提出了一种可解释学习有效动力学（iLED）框架，通过融合 Mori-Zwanzig 和 Koopman 算子理论，实现与循环神经网络模型相当准确度的建模和仿真，具备可解释性，适用于解决高维度多尺度系统。

    Sep, 2023

  • 非线性动力学的生成学习

    现代生成式机器学习模型展示出令人惊讶的能力，能够创造出超越其训练数据的逼真产出，如逼真的艺术作品、精确的蛋白结构或对话文本。这些成功表明生成模型学会了有效地参数化和采样任意复杂的分布。本文旨在将经典作品与大规模生成统计学习中的新兴主题联系起来，包括经典吸引子重构、隐空间模型中的潜在表示学习等。还介绍了早期利用符号近似进行比较的努力，与现代努力进行黑盒统计模型的精简和解释相关。新兴的跨学科研究桥接了非线性动力学和学习理论，如用于复杂流体流动的算子理论方法，或者检测生物数据集中打破了详细平衡的情况。我们预计未来的机器学习技术可能会重新审视非线性动力学中的其他经典概念，如信息传输衰减和复杂性 - 熵权衡问题。

    Nov, 2023

  • 时间展开：4D 湍流流动的生成建模

    该研究介绍了一种生成扩散模型和物理引导技术，可以生成逼真的流动状态序列，从而实现对湍流流动的时间演变的分析，为生成建模在湍流动力学复杂性研究中提供了宝贵的见解。

    Jun, 2024

  • 生成、重建和表示离散与连续数据：具有可学习的编码解码的广义扩散

    通过引入可学习的编码器 - 解码器，DiLED 广义扩展了常规扩散过程的高斯噪声去噪方法，在不同数据类型上具有广泛适用性和提升性能。实验证明 DiLED 在处理各种数据和任务上都有很好的灵活性，并在不同已有模型上取得了显著的改进。

    Feb, 2024

  • 基于深度学习扩散生成模型的湍流尺度缩放

    利用基于扩散的生成模型学习湍流涡度轮廓的分布，生成与训练数据集不同的多样化湍流解，并分析新湍流轮廓的统计缩放特性、能量功率谱、速度概率分布函数和局部能量耗散矩。通过与已建立的湍流特性的一致性，该模型证明了其捕捉实际湍流关键特征的能力。

    Nov, 2023

  • 网络重构与动态学习的通用深度学习框架

    通过提出 Gumbel Graph 网络 (GGN) 框架，我们展示了一种模型自由、数据驱动的深度学习方法，可用于重建网络连接并预测时间序列的状态。该框架在连续、离散、二进制等不同类型的时间序列数据上展现了显著的对比优势。

    Dec, 2018

  • 主动学习高斯过程动力学

    本文提出了利用高斯过程回归中自然产生的信息理论特性的主动学习策略，尊重系统动态 imposed 约束下的抽样过程，并在高不确定度区域选择抽样点，以实现探索性行为和数据高效训练。该方法在大量数值基准测试中得到验证。

    Nov, 2019

  • 通过内部高维混沌活动进行生成建模

    利用高维混沌系统中的内部混沌动力学作为一种从训练数据集中生成新数据点的方法，在一组基本架构中通过简单的学习规则来实现这一目标，并通过标准准确度度量来表征生成数据点的质量。

    May, 2024