数据流形上的本地高阶正则化
本文使用流形正则化的概念开发了新的正则化技术,以训练具有局部稳定性的深度神经网络;我们的正则化器基于图拉普拉斯矩阵的稀疏化,当数据在高维空间中稀疏时,能够高概率地保持;经验证明,我们的网络表现出稳定性,并能够在不同的扰动模型下经受良好的检验;此外,我们的技术高效,并且与网络的额外两个并行前向传递的开销相当。
Mar, 2020
本文提出一种基于低维流形模型和图拉普拉斯正则化器的 3D 点云去噪方法,通过近似离散观测的流形维度计算,并且采用一种新的离散补丁距离度量来构建一个抗噪声的图形结构,并取得了比当前最先进方法更好的性能和更好的结构特征保持。
Mar, 2018
本文提供一种有偏差方差权衡的图拉普拉斯正则化方法,该方法广泛应用于图信号处理和半监督学习任务。在分析中,将最优正则化参数的尺度定于谱图属性和信噪比参数,并应用于三种应用(包括随机信号、带限信号和多样本图信号)。通过实验验证了所建立分析的接近最优性能。
Jun, 2017
探索了超图结构在不包含显式结构信息的点云数据插值中的优势,并证明了超图 $p$-Laplacian 正则化与连续型 $p$-Laplacian 正则化的变分一致性,利用随机原始 - 对偶混合梯度算法解决了凸但不可微的大规模优化问题,并通过数值实验验证了超图 $p$-Laplacian 正则化相对于图 $p$-Laplacian 正则化在防止标记点处出现尖峰的效果更好。
May, 2024
结合基于模型的方法和数据驱动的深度学习方法,利用图拉普拉斯正则化作为可训练模块进行真实图像去噪,提出一种可全程微分和端对端训练的图像去噪方法,不易过拟合,跨领域泛化性能强,相对于现有技术具有显著的优越性。
Jul, 2018
使用 GAN 进行流形正则化,采用 Monte Carlo 近似方法进行拉普拉斯规范化,结合 GAN 实现特征匹配 GAN,并在 CIFAR-10 数据集上实现了半监督学习并取得了最先进的结果。
May, 2018
本文通过研究高阶超图随机游走,介绍了一组超图拉普拉斯算子以统一超图的不同版本,证明这些拉普拉斯算子的特征值可以有效地控制高阶随机游走的混合速率,推广距离 / 直径和边界扩展。
Feb, 2011
本研究探讨了半监督学习中的回归问题,以随机几何图形模拟数据几何结构,将离散的 $p$- 拉普拉斯正则化纳入模型,研究了无标记点数增加时渐近表现的性质,发现模型存在收敛性限制,提出了一个简单的模型来解决这一限制。
Jul, 2017
本文研究了具有可能不同边缘概率的随机图,位于期望度数有限的稀疏区域。通过在邻接矩阵的每个条目中添加数量级为 1/n 的常数,达到正则化的效果,证明了其集中作用,从而证实了在随机块模型下基于正则化谱聚类的一种最简单和最快速的社区检测方法的有效性。
Feb, 2015
在图神经网络中,传统的图拉普拉斯正则化对现有 GNN 的性能提升不大,提出了一种名叫 P-reg 的图拉普拉斯正则化变体,可以有效增加信息熵,提升现有 GNN 模型在节点级和图级任务上的性能。
Sep, 2020