Nov, 2023

通过神经 CDEs 利用视频建模中的归纳偏见

PDF
TL;DR我们介绍了一种新颖的视频建模方法，利用控制微分方程（CDEs）来解决视频任务中的关键挑战，特别是视频插值和掩模传播。我们将 CDEs 应用于不同的分辨率，形成了一个连续时间的 U-Net 架构。与传统方法不同，我们的方法不需要显式光流学习，而是利用 CDEs 的内在连续时间特性来产生高度表达的视频模型。我们展示了在视频插值和掩模传播任务上与最先进模型竞争力强的性能。
发现论文，激发创造
  • 神经控制微分方程用于在线预测任务

    本文提出神经控制微分方程 (Neural CDE) 用于解释不规则时间序列的函数，同时研究了在连续监测过程中，如何解决实时在线预测的问题，本文提出的插值方案具有测量性和平滑性，并在 MIMIC-IV 医疗数据库上进行了实证测试，对于三个连续监测任务的准确性均有提升。

    Jun, 2021

  • 使用神经控制微分方程学习动态图嵌入

    研究动态图的表示学习，提出了 Graph Neural Controlled Differential Equation (GN-CDE) 模型，通过深度神经网络参量化向量场和交互导数，对节点嵌入轨迹的动态演化进行建模，实现了在动态演化的图上表达动态的能力。

    Feb, 2023

  • 用神经粗糙微分方程处理长时间序列

    本文介绍了一种基于粗路径理论的新方法，使用 log-signature 表示输入信号，扩展了神经控制微分方程 (CDE) 的应用。这种扩展方法可以处理长度为 17k 的时间序列问题，并比现有方法具有更快的训练速度、更好的模型性能和更少的内存需求。

    Sep, 2020

  • 神经微分方程的可逆解法用于非规则采样时间序列的分析

    基于神经微分方程的可逆解决方案对处理不规则和不完整的时间序列数据进行复杂性处理，使用神经控制微分方程和神经流的变体确保可逆变换，并通过增强的双潜在状态体系提供优越的分类和插值任务的模型建模，实证分析表明该方法明显优于现有模型，推进了不规则时间序列分析，并为多样的实际应用提供了一种多功能工具。

    Jan, 2024

  • Vid-ODE：使用神经常微分方程进行连续时间视频生成

    本文提出了一种结合神经 ODE 和像素级视频处理技术的连续时间视频生成方法，能够处理具有任意时间步长的输入视频，并在真实世界视频数据集上验证该方法的超越性能。

    Oct, 2020

  • 神经控制微分方程中的可学习路径

    本文研究神经控制微分方程的连续解法，采用编码 - 解码模块，通过插值算法生成连续路径，达到更好的时间序列分类和预测表现。

    Jan, 2023

  • 以偏微分方程为基础的深度神经网络

    该论文通过偏微分方程的理论框架，提出了三种新型的 ResNet 神经网络架构，分别属于抛物线和双曲线类型的 CNN，能够提供深度学习的新算法和思路，并用数值实验证明了它们的竞争力。

    Apr, 2018

  • 用神经离散学习和专家级别模型对时空动力系统建模

    本文提出了一种基于数据驱动的普适专家模块，即光流估计组件，用于捕捉广泛的实际物理过程的演化规律；通过精细的物理流程设计和神经离散学习，增强了局部洞察力并获得潜在空间中的重要特征。实验结果表明，与现有的基线方法相比，所提出的框架取得了显著的性能提升。

    Feb, 2024

  • 神经常微分方程

    提出一种新型深度神经网络模型 —— 连续深度模型，其采用了一个神经网络来参数化隐藏状态的导数，并利用黑箱微分方程求解器计算网络输出，使其具有内存成本不变、能够为每个输入自适应地选择评估策略并能显式进行精度 / 速度权衡等特点。研究者进一步证明了通过此模型可以构造出连续正则化流模型，能够通过最大似然进行训练，而不需要对数据维度进行分区或排序，并展示了如何在较大模型内部向任何 ODE 求解器进行可扩展地反向传播，从而实现 ODE 的端到端训练。

    Jun, 2018

  • 神经显式扩散模型用于光流场修复

    将模型驱动和数据驱动方法相结合，通过组合显式基于偏微分方程的方法与卷积神经网络，实现了光流场修复任务的联合架构，表现优于显式基线、生成对抗网络和概率扩散基线，成为光流场修复领域的最新技术。

    May, 2024