Apr, 2023

隐空间动态网络 (LDNets): 学习时空过程内在的动力学

PDF
TL;DR对于展现时空动态响应的系统的演化进行预测是促进科学创新的关键技术，传统基于方程的方法需要大规模并行计算平台和大量的计算成本。相比之下，我们提出了一种名为 Latent Dynamics Network 的新型架构，该架构使用降维和深度学习算法来描述系统演化的低维潜在空间，从而预测空间依赖场对外部输入的时间演化，并在几个测试案例上验证了该方法的高效性和精确性。
latent dynamics networkdimensionality reductiondata-driven approachesspatio-temporal dynamicsdeep learning algorithms
发现论文，激发创造
  • HybridNet: 将基于模型和数据驱动的学习相结合，用于预测动态系统的演化

    本文提出了 HybridNet，这是一个集成数据驱动深度学习和模型驱动计算的框架，在准确掌握参数知识的情况下可靠地预测动态系统的时空演化，实验结果表明该方法比基于深度学习的现有方法具有更高的预测精度。

    Jun, 2018

  • 学习稳定深度动力学模型

    本文提出了一种稳定学习动态系统的方法，该方法采用联合学习动态模型和李雅普诺夫函数的方法，这样学习的系统在整个状态空间内保持稳定，同时它也能够被结合到其他深度生成模型中学习复杂的动态系统，例如视觉纹理。

    Jan, 2020

  • 通过不变分解和 (时空) 转换器学习潜在动态

    提出了一种方法，通过在一种框架内结合变分自动编码器和 (时空) 注意力机制，从高维经验数据中学习动力系统，以实现确定一定科学动力学不变的设计，这种方法允许在任何连续时刻有效推断系统行为，是从异构数据中高效学习动态模型的一种有前途的新框架。

    Jun, 2023

  • 通过学习其有效动力学实现复杂系统的多尺度模拟

    我们提出了一种通过使用深度学习自编码器模型，将大规模模拟和降阶模型结合起来，以有效地预测各种复杂系统的动态特性的算法，该算法在验证中显示出可行性，并可降低两个数量级的计算成本。

    Jun, 2020

  • 在潜在空间中学习提高深度神经算子的预测准确性

    使用深度自编码器识别高维 PDE 输入输出函数的潜在特征表示，可以增强学习，并提高时间依赖型的 PDE 模型的计算精度和效率。

    Apr, 2023

  • 基于多步神经网络的非线性动力系统数据驱动发现

    这篇论文提出了一种利用深度神经网络和数值分析相结合的机器学习方法，用于从数据中识别非线性动态系统，以此预测未来状态和识别吸引基。在多个基准问题中，论文证明了该方法的有效性，包括学习洛仑兹系统、圆柱背后的流体动力学、Hopf 分岔和糖酵解振荡器模型。

    Jan, 2018

  • 动态网络和时态知识图谱的神经潜空间模型

    本文提出了一种适用于动态网络的统计模型 Neural Latent Space Model with Variational Inference，该模型能够表示并预测网络结构的演化，并在同质、双部分和异质网络的真实数据集上表现出优异的性能。

    Nov, 2019

  • 线性动力学嵌入神经网络用于长序列建模

    长序列建模中性能和计算效率之间的权衡成为现有模型的瓶颈，本文基于控制理论中具有多输入和多输出的连续状态空间模型（SSMs），提出了一种新型神经网络，称为线性动力学嵌入神经网络（LDNN）。通过对角化和解耦然后快速傅里叶变换（FFT）的两种高效策略，将卷积的时间复杂度从 O (LNHmax {L, N}) 降低到 O (LNmax {H, log L})，实现了 LDNN 在长序列任务中的少参数、灵活推断和高效训练。我们通过双向非因果和多头设置进一步改进了 LDNN，以适应更广泛的应用领域。对长距离竞技场（LRA）进行了大量实验证明了 LDNN 的有效性和最先进的性能。

    Feb, 2024

  • tLaSDI: 热力学信息隐空间动力学识别

    基于数据驱动的潜空间动力学识别方法通过嵌入热力学的第一和第二原理，利用自编码器作为非线性降维模型学习潜变量，并通过基于神经网络模型构建潜变量的动力学，遵循广义热动力学原理，从而产生了一种新的损失公式。潜编码器和潜动力学均通过最小化新损失进行训练，其泛化能力强，即使在外推情况下也表现出鲁棒性。此外，实证观察到潜空间中熵产生速率与完全状态解的行为之间存在着有趣的相关性。

    Mar, 2024

  • 动态网络表示的动量非负张量因式分解模型

    本文提出了一种基于动量梯度下降的非线性潜在张量因子分解模型 (MNNL)，可从高维不完整张量 (HDI) 中提取非负潜在因子，改善了传统 LFT 模型的训练问题，提高了预测准确性和收敛速度。

    May, 2023