Mar, 2016

半监督学习中基于 $\ell_p$ 的拉普拉斯正则化的渐近行为

PDF
TL;DR以 $L_p$-Laplacian 正则化为基础的半监督学习算法采用 $d$ 维几何随机图模型给出了理论推导，证明了当 $N$ 趋于无穷大而 $n$ 保持不变时， 估计函数的性能，证明了在 $P$ 的敏感度和置信度之间存在权衡，表明选择 $p = d +1$ 是最优的选择。
semi-supervised learninglaplacian regularizationgeometric random graph modelsmoothnessstatistical performance
发现论文，激发创造
  • 半监督学习中 $p$-Laplacian 正则化的分析

    本研究探讨了半监督学习中的回归问题，以随机几何图形模拟数据几何结构，将离散的 $p$- 拉普拉斯正则化纳入模型，研究了无标记点数增加时渐近表现的性质，发现模型存在收敛性限制，提出了一个简单的模型来解决这一限制。

    Jul, 2017

  • 半监督学习的适当加权图拉普拉斯算子

    本文介绍了一种针对大数据量下半监督学习中图拉普拉斯方法性能下降问题的解决方案，通过正确设置拉普拉斯正则化的权重使得估计器在大样本情况下保持良好状态，并证明了其收敛性，最终实现连续达到标记值的问题平滑解，且方法实现快捷简便。

    Oct, 2018

  • 用游戏论 p-Laplacian 和半监督学习处理少标注数据

    研究了图上半监督学习中的博弈论 p-Laplacian，展示了在有限标记数据和无限未标记数据的情况下其是有限的。具体而言，我们展示了带有图上半监督学习的连续 p-Laplace 方程的连续极限是加权版本。我们还证明图 p-Laplace 方程的解近似是 Holder 连续的高概率。

    Nov, 2017

  • 基于 Lipschitz 学习的图算法

    本文讲述了如何基于 Lipschitz 扩展来实现图上回归问题，包括最小 Lipschitz 扩展和绝对最小 Lipschitz 扩展，它们能够实现多项式时间的正则化。

    May, 2015

  • 点云数据插值上的超图 p-Laplace 正则化

    探索了超图结构在不包含显式结构信息的点云数据插值中的优势，并证明了超图 $p$-Laplacian 正则化与连续型 $p$-Laplacian 正则化的变分一致性，利用随机原始 - 对偶混合梯度算法解决了凸但不可微的大规模优化问题，并通过数值实验验证了超图 $p$-Laplacian 正则化相对于图 $p$-Laplacian 正则化在防止标记点处出现尖峰的效果更好。

    May, 2024

  • 利用 $l_1$ 正则化逻辑回归进行高维 Ising 模型选择

    本文提出了一种基于 logistic 回归的方法来估计与二元 Ising 马尔可夫随机场相关联的图，并分析了该方法在高维情况下的表现，提出了一些充分条件，使其能够同时一致估计图中每个节点的邻域。

    Oct, 2010

  • 超图 $p$-Laplacian: 微分几何观点

    本文将图 Laplacian 和微分几何的类比推广到超图 setting，进而提出了一种新的超图 $p$-Laplacian 以及一种基于此的半监督学习方法，并进一步探索了与超图 cut 和 normalized cut 的一般形式的关系和区别， 最终在超图的半监督学习和 normalized cut 方面表现出优异的性能。

    Nov, 2017

  • GCN 的 $p$ 范正则化随机学习的稳定性和泛化性

    本文探讨了图卷积网络在平滑性和稀疏性之间的权衡，并提出了一种新的随机梯度下降模型来解决这个问题。通过该模型，本文对单层 GCN 在稀疏性学习中的理论性质进行了分析，并验证了理论结论。

    May, 2023

  • 指数随机变量的子空间嵌入和 Lp 回归

    本文从子空间嵌入的角度出发，提出了一种构造常数扭曲率子空间嵌入的新方法，并将其应用于线性回归问题以及分布式计算中。

    May, 2013

  • 利普希茨界和拉普拉斯平滑法可证明的鲁棒训练

    本文提出了一个基于图的学习框架来训练在对抗扰动下具有稳健性的模型，并通过 Lipschitz 约束将对抗性稳健学习问题形式化为损失最小化问题，设计了一个稳健训练方案来收敛到拉格朗日函数的鞍点。 最终通过实验表明，在达到期望的标准表现的同时提高模型的稳健性存在一定的基本下限。

    Jun, 2020