Jun, 2023

$L^\infty$ 重心核希尔伯特空间的可学习性

PDF
TL;DR本文分析了在 L^∞范数下再现核希尔伯特空间（RKHS）的可学习性，与核方法和随机特征模型在安全和安全关键应用中的性能密切相关，建立了样本复杂度的下限和上限，并证明了在球面上的点积核下，如果 β 与输入维度 $d$ 无关，则可以使用多项式样本有效地学习 RKHS 中的函数。
reproducing kernel hilbert spaceslearnabilityl^infinity normsample complexitykernel spectrum
发现论文，激发创造
  • 再生核希尔伯特空间的稳定性测试

    通过研究 Mercer（连续）核在连续时间和整个离散时间类中，我们表明稳定性测试可以缩减到仅研究测试函数上的核算子，这些函数几乎可以在任何时候只取值于 1 和 - 1。因此，RKHS 稳定性测试成为单个线性时不变系统的 BIBO 稳定性的简单结果的优雅概括。

    May, 2023

  • 再生核希尔伯特空间中的 Lipschitz 与 Hölder 连续性

    在这项工作中，我们研究了再生核希尔伯特空间中的 Lipschitz 和 Hölder 连续性，并提供了多个充分条件以及对诱导规定的 Lipschitz 或 Hölder 连续性的再生核的深入研究。除了新结果外，我们还收集了相关的已知结果，使得本研究也成为这一主题的方便参考。

    Oct, 2023

  • 受限的、过参数化的、两层神经网络的学习

    利用路径范数和巴伦范数建立了适合于过参数化的两层神经网络的函数空间，并证明了度量熵和一般化界限方面的改进结果。

    Apr, 2024

  • 广义 Mercer 核和再生核 Banach 空间

    本文研究重现核巴拿赫空间的建构，提出广义 Mercer 核来构建 p - 范数的 RKBS，导出支持向量机在 p - 范数的 RKBS 中的等效有限维最优化解，并说明某些特殊情况下的支持向量机等价于经典稀疏回归问题，为后续研究稀疏学习方法提供基础支持。

    Dec, 2014

  • 核学习中的正则化

    本文研究了在重现核希尔伯特空间中进行正则化学习情景时，如何在核函数的温和假设下获得最佳的错误率。研究发现，可以利用一种增长速度比 RKHS 规范中的标准二次增长慢得多的正则化项。

    Jan, 2010

  • 近似比集中更有效？平滑径向核推理的近似观点

    探讨了正定核及其相关重现核希尔伯特空间的逼近性质，包括核算子和矩阵的特征值衰减、特征函数 / 特征向量的性质、核空间中函数的 “傅里叶” 系数以及核的拟合能力等，并给出了限制在离散数据点上的重现核希尔伯特空间球体的胖打散维度的明确界限，讨论了正定核的容量限制及其对梯度下降等算法的影响。

    Jan, 2018

  • 重现核巴拿赫空间中的学习稀疏表示定理

    通过在 Reproducing Kernel Banach Space（RKBS）中建立显式的代表定理，我们探讨了该 RKBS 中代表的性质，与正则化参数对于解决方案的稀疏性的关系，并证明了一些特定的 RKBS 具有解决稀疏学习问题的能力

    May, 2023

  • 非对称核学习的核岭回归学习分析

    本文通过加入局部自适应带宽的 RBF 核和核学习技术，提升了核无岭回归，并首次证明了由 LAB RBF 核学习的函数属于可重构核希尔伯特空间。尽管所提出模型中没有显式正则化，但其优化等效于在可重构核希尔伯特空间中解决一个 l0 正则化问题，解释了其泛化能力的来源。在近似分析角度下，我们引入了一种 lq - 范数分析技术（其中 0<q<1），以在适度条件下推导所提模型的学习率。实验结果在合成和真实数据集上验证了我们的理论推论。

    Jun, 2024

  • 最小二乘插值和核的有限下降和受限低等距

    本文研究了复制内核希尔伯特空间中数据最小范插值的风险，并发现了这些插值在样本大小方面的非单调性。文中还针对相应的内核提出了新的估计和泛化保证。

    Aug, 2019

  • 深度神经切向核和拉普拉斯核具有相同的 RKHS

    本文探讨了深度神经切向核和拉普拉斯核的再生核希尔伯特空间包含相同的函数的问题，以及限制在球面上的指数幂核和定义在整个 $R^d$ 上的指数幂核对 RKHS 的影响问题。

    Sep, 2020