Jul, 2023

利用深度分层变分自编码器的数据驱动的非线性参数模型降阶框架

PDF
TL;DR提出了使用深度人工神经网络的数据驱动参数模型降阶（MOR）方法，其中采用最小二乘分层变分自动编码器（LSH-VAE），可以进行非线性 MOR，对具有大量自由度的非线性动态系统进行了参数插值，其结果表明相比传统的非线性 MOR 方法、自动编码器和变分自动编码器，LSH-VAE 具有更高的准确性和稳定性，并在三个非线性多物理动力学系统上进行了验证和评估。
parametric model order reductiondeep artificial neural networknonlinear dynamic systemslatent manifoldleast-squares hierarchical variational autoencoder
发现论文，激发创造
  • 非参数变分自编码器用于分层表示学习

    本文提出了一种层次非参数变分自编码器模型，以结合树状结构的贝叶斯非参数先验和变分自编码器来实现无限灵活性的潜在表征空间，进而在视频表征学习上取得更好的效果。

    Mar, 2017

  • 非线性模型降维的高阶可微自编码器

    该研究论文利用深度神经网络与 Lagrangian 力学相结合，提出一种新的加速弹性形变物体模拟的算法，通过利用复杂度有限差分和反向神经自动微分策略，解决了非线性力平衡的挑战，进一步设计了采样网络和加权网络，使得该方法更加具有普适性。

    Feb, 2021

  • 使用受限自动编码器学习非线性投影用于动态系统的降阶建模

    最近开发的降阶建模技术旨在从数据中学习的低维流形上近似非线性动力系统。我们介绍了一种由约束的自动编码器神经网络描述的参数化非线性投影类，其中流形和投影纤维都是从数据中学习得到的。此外，我们还提出了一些新的动力学感知成本函数，以促进学习考虑快速动力学和非正常性的斜投影纤维。为了展示这些方法及其解决的特定挑战，我们提供了一个关于涡街现象的三状态模型的详细案例研究。同时，我们还提出了几种基于我们提出的非线性投影框架构建计算高效的降阶模型的技术。这包括一种用于避免计算 Grassmann 流形上有害的权重矩阵收缩的新型稀疏促进惩罚项的编码器。

    Jul, 2023

  • 基于神经自编码器的高维物理系统结构保持模型降阶与控制设计

    控制导向的、结构保持的学习关于高维物理系统的低维近似，重点研究机械系统。我们研究了在模型阶数降低中整合神经自编码器，同时保留哈密顿或拉格朗日结构。我们着重评估所考虑方法的性能，通过在包含数百个状态的大型质量 - 弹簧 - 阻尼网络上进行模拟和控制实验。实证结果显示，少于 5 个自由度的压缩潜在动态可以以约 4% 的相对总误差准确重构原始系统的瞬态和稳态行为，同时准确重构总能量。利用这种系统压缩技术，我们介绍了一种基于模型的控制器，利用压缩模型的数学结构来调节受强减调控机械系统的配置。

    Dec, 2023

  • 复杂动态的变分编码

    使用时间滞后变分自编码器（VDE）对复杂的非线性蛋白质折叠等过程进行降维，并通过 saliency mapping 方法分析 VDE 所选择的用来描述动态过程的特征。

    Nov, 2017

  • 一种结构化变分自编码器用于学习稀疏特征的深度层次结构

    本研究提出了一种基于深度潜在随机变量的自然图像生成模型，其采用新型分布称为修正高斯，其中采用类似 spike-and-slab 的稀疏性，保持了有效的随机梯度变分推断的可微性；通过一个结构化后验分布估计函数的近似，提出了一种新型结构化变分近似方法，避免常规均场假设，并保持了生成模型的先验依赖关系，从而实现了具有许多层潜在随机变量的深度模型的联合训练。

    Feb, 2016

  • DeepCoder：用于自动面部动作编码的半参数变分自编码器

    该研究提出了一种名为 DeepCoder 的半参数建模框架，将参数化（卷积）和非参数化 (序数 GPs) VAE 的建模能力结合起来，用于多层次任务层次结构的潜在表示和多个序数输出的分类的联合学习，该模型在 AU 强度估计的基准数据集上表现出超越最先进方法和相关 VAE 和深度学习模型的优势。

    Apr, 2017

  • 使用深度卷积自编码器对非线性流形上的动态系统进行模型简化

    介绍一种新的基于最小残差的方法，通过在时间连续和时间离散水平上使用非线性流形将动力系统投影到上，即流形 Galerkin 投影和流形 Petrov-Galerkin 投影，并提出了一个计算非线性流形的可行方法，该方法基于深度学习中的卷积自编码器。最后，演示了这种方法在反向控制问题上的比优对比结果。

    Dec, 2018

  • 可扩展的分解层次变分自编码器训练

    本文介绍一种基于变分推断的分层生成过程的因式分解分层变分自编码器（FHVAE）模型，该模型在许多语音应用方面已被证明可行，但其原始论文中提出的训练算法不适用于规模更大的数据集。本文提出了一种分层采样训练算法来解决这一问题，并对不同类型的数据集进行了全面评估，证明了我们提出的算法对所有数据集都表现出所需的特性。

    Apr, 2018

  • 用深度卷积循环自编码器学习流体系统低维特征动态

    本研究提出一种基于深度学习的非线性模型降维策略，通过深度卷积自编码器和 LSTM 网络构建模块化模型，实现繁重计算任务中的模型降维，同时保持计算效率和系统稳定性。

    Aug, 2018