通过重复微分实现神经场卷积
本文介绍一种基于向量场的新型表面卷积操作器,在局部坐标参考点定义单一坐标参数化的代替方法下,组合相邻特征,结合了本质空间卷积和平行传输的散射操作,为卷积提供了新的定义方法,适用于表面上的 CNN,通过由残差场卷积模块构成的简单网络在形状分类、分割、对应和稀疏匹配等基本几何处理任务中实现了最先进的结果。
Apr, 2021
神经场是一种有望替代传统的离散向量或基于网格的表示方法的信号表示方法,通过神经网络将信号表示为一个函数的参数化形式。相比离散表示方法,神经表示方法在分辨率增加时具有更好的可扩展性,是连续的,而且可以多次可微。然而,对于我们想要表示的信号数据集,为每个信号优化一个单独的神经场效率低下,并且无法利用信号之间的共享信息或结构。现有的泛化方法将其视为元学习问题,并使用基于梯度的元学习来学习初始化,然后通过测试时优化进行微调,或者学习超网络来产生神经场的权重。我们提出了一种新的范式,将神经表示的大规模训练视为部分观测神经过程框架的一部分,并利用神经过程算法来解决这个任务。我们证明了这种方法优于最先进的基于梯度的元学习方法和超网络方法。
Sep, 2023
我们提出了一种基于概率数值方法的卷积神经网络,使用高斯过程表示特征,并采用偏微分方程定义卷积层,实现了旋转等变卷积,实验结果显示我们的方法可将误差降低 3 倍,并在医学时间序列数据集 PhysioNet2012 上展现了出色的性能。
Oct, 2020
本研究采用隐式神经表示方法,从稀疏的传感器数据中可靠地重构物理场。通过将时空变化分解为空间和时间分量,并利用因变量分离技术从稀疏采样的不规则数据点中学习相关基函数,从而发展出数据的连续表示。在实验评估中,该模型在模拟数据和卫星海面温度数据集上表现出优越的重构质量,超过了最近的隐式神经表示方法。
Jan, 2024
我们提出了两种方法来解决混合神经场在渲染、碰撞模拟和解决偏微分方程等下游应用中可能引起的不合理现象和伪影问题:首先,我们提出了一种后处理算子,利用局部多项式拟合从预训练的混合神经场中获得更准确的导数;其次,我们提出了一种自监督微调方法,通过对神经场进行微调来直接获得准确的导数,同时保持初始信号的不变性。使用我们的方法可以获得更准确的导数,减少伪影,并在下游应用中实现更准确的模拟。
Dec, 2023
本文提出了可操作非网格结构数据的一种新的可学习算子 —— 参数化连续卷积,并在室内外场景的点云分割和驾驶场景的激光雷达运动估计中实验证明,相较于现有技术有显著提升。
Jan, 2021
本文提出一种新的方法,可以在曲面上执行信号卷积,并展示其在各种几何深度学习应用中的效用。关键在于基于曲面定义的方向性函数,可以自然地与真实值模板函数进行卷积,并在神经网络的不同层之间保留所有旋转的信息,从而允许传播和关联定向信息。
Oct, 2018
本文提出了一种基于 Meshless 插值和谱协方差方法的约束神经场方法,针对深度神经网络优化问题中缺乏硬性约束优化的现状,其约束可以具体指定为应用于神经场及其导数的线性算子,并展示了其在许多实际应用中的实验效果和高效的模型约束陈述框架。
Jun, 2023
我们提供了支持的分析,显示出深度卷积核能够有效地复制哺乳动物视网膜中观察到的生物感受野的结构复杂性。在此基础上,我们提出了一个启发于生物感受野的初始化方案,并利用多个包含深度卷积的 CNN 架构在 ImageNet 数据集上进行实验分析,结果表明使用生物启发的权重初始化可以明显提高学习模型的准确性,这突显了生物启发型计算模型进一步推动视觉处理系统理解和改善卷积网络效果的潜力。
Jan, 2024
使用神经核场方法,基于学习的核脊回归,重建隐含 3D 形状。该技术在从稀疏定向点重建 3D 对象和大场景方面取得了最先进的结果,并且在训练集之外重构形状类别时几乎没有降低准确性。
Nov, 2021