神经显式扩散模型用于光流场修复
本文提出了一种新型的混合反向问题复合框架,将深度神经网络的高表现力与现有偏微分方程数值算法相结合,通过语义自编码器的自定义层,将计算数学、机器学习和模式识别技术融合在一起,实现了域特定知识和物理约束的综合应用,解决了大量数据中的未知字段这个问题,称之为混合反向 PDE 网络 (BiPDE 网络),并在一维和二维空间中的泊松问题中,以及一维的时间依赖和非线性 Burgers 方程中,应用和证明了其可行性和噪声鲁棒性。
Jan, 2020
本文展示了使用去噪扩散概率模型进行单目 depth 和 optical flow 估计,通过 Monte Carlo 推理,结合了自监督预训练和合成和真实数据的监督训练,能够在去噪和缺陷数据方面提供技术创新,以及对于不确定性和多模态的处理能力等方面都能取得最先进的效果。DDVM 是本文中提出的模型,相对深度误差为 0.074,比最佳发布方法的 Fl-all outlier rate 高 25%。
Jun, 2023
该论文通过偏微分方程的理论框架,提出了三种新型的 ResNet 神经网络架构,分别属于抛物线和双曲线类型的 CNN,能够提供深度学习的新算法和思路,并用数值实验证明了它们的竞争力。
Apr, 2018
在流体动力学中使用机器学习越来越普遍,为了加快解决偏微分方程的正反问题的计算。然而,现有基于卷积神经网络(CNN)的数据保真增强方法面临一个显著挑战,即在训练阶段依赖于特定低保真数据模式和分布。引入扩散模型在这个背景下展示了提高性能和可泛化性的潜力。我们提出的模型 —— 物理启发的残差扩散,展示了从标准低保真输入、注入高斯噪声的低保真输入以及随机采集样本中提升数据质量的能力。通过将基于物理的见解整合到目标函数中,进一步提高了推断得到的高质量数据的准确性和保真性。实验结果表明,我们的方法能够在不需要重新训练的情况下,有效地重建来自各种低保真输入条件中的二维湍流的高质量结果。
Apr, 2024
本文提出了一种基于数据驱动的普适专家模块,即光流估计组件,用于捕捉广泛的实际物理过程的演化规律;通过精细的物理流程设计和神经离散学习,增强了局部洞察力并获得潜在空间中的重要特征。实验结果表明,与现有的基线方法相比,所提出的框架取得了显著的性能提升。
Feb, 2024
Flow-Guided Diffusion model significantly enhances temporal consistency and inpainting quality in video inpainting by employing optical flow and a model-agnostic flow-guided latent interpolation technique.
Nov, 2023
本研究探讨了以扩散为基础的生成模型作为偏微分方程 (PDE) 神经算子的功效。我们展示了扩散生成模型在神经算子方面具有许多有利的特性,并能够在多个真实动力系统中优于其他神经算子。此外,我们演示了概率扩散模型如何优雅地处理部分可识别的系统,通过生成对应于不同可能解的样本。
May, 2024
深度神经网络与偏微分方程之间的关系启发我们研究了深度神经网络的偏微分方程模型的一般形式。在一些合理的假设下,我们证明演化算子实际上由对流 - 扩散方程决定。这个模型为几个有效的网络提供了数学解释。此外,我们还展示了对流 - 扩散模型提高了鲁棒性并减小了 Rademacher 复杂度。基于对流 - 扩散方程,我们设计了一种适用于 ResNets 的新训练方法。实验证实了所提出方法的性能。
Jul, 2023
该论文提出了一种利用偏微分方程来改进神经网络泛化性能的方法,并将其实现为 PDE + (具有自适应分布扩散的 PDE),该方法通过扩散每个样本以覆盖语义相似的输入分布,以改善泛化性能。
May, 2023
探索了混合模型的可行性,将黑盒 PDE 求解器整合到可微分的深度图神经网络中,使用零阶梯度估计器训练模型,实验结果表明该方法的性能优于基准模型,并通过简单的热启动实现了加速收敛和改进的泛化性能。
Apr, 2024