Dec, 2011

Arc-Cosine 核的分析与扩展用于大边界分类

PDF
TL;DR本文研究了一种最近提出的伪造大型神经网络计算的正定核族。作者采用微分几何工具来研究这些核的性质，具体地，分析了这些核引起的希尔伯特空间表面的几何特征。当该几何被描述为一个黎曼流形时，作者针对其度量、曲率和体积元素导出了结论。值得注意的是，他们发现这个族中最简单的核不允许这样的解释，因此研究了两个用于类神经网络计算的修改的核。作者在多个数据集上实验了这些新的核，并强调了它们在分类中的普遍趋势。
发现论文，激发创造
  • 测地指数核：当曲率与线性冲突时

    本文探讨了一般测地度量空间中的内核方法，并提供了正面和负面的结果。结论是：高斯内核只能在测地度量空间中推广为正定内核，如果该空间是平坦的，这意味着任何在曲面上设计测地高斯内核的尝试都是徒劳的。然而，本文证明：对于具有有条件负定距离的空间，可以推广测地拉普拉斯内核并保持正定性。这意味着可以将测地拉普拉斯内核推广至一些曲面上。

    Nov, 2014

  • 基于岭函数视角的 Mercer 大规模核机器

    本文从岭函数的角度介绍了 Mercer 大规模核机器的概念，并回顾了 Lin 和 Pinkus 在岭函数基础性方面的结果。我们考虑了 Rachimi 和 Recht 在近似理论方面的最新论文中的主要定理，研究了哪些核函数可以近似为 $x$ 和 $y$ 依赖的余弦函数乘积之和，并提出了这种方法的障碍。本文的结果在深度学习中，特别是与图像处理相关的问题中可能具有各种应用。

    Jul, 2023

  • 基于希尔伯特空间嵌入的形状分析框架

    使用 Kendall 形状流形上的正定内核提出了一个 2D 形状分析框架，该内核允许我们将形状映射到一个高维希尔伯特空间中，从而使我们能够扩展内核方法并进行形状分类、聚类和检索。

    Dec, 2014

  • 在紧致流形上优化径向核

    该研究论文探讨了在黎曼流形上针对所有可能的正定径向核进行分类优化的问题，并在支持向量机框架内展示了正定径向核的自动优化。

    Dec, 2014

  • 具高斯 RBF 核函数的黎曼流形上的核方法

    发展了利用核方法处理测地线非欧几里得空间数据的方法，具体地，提出了基于高斯径向基函数的正定核定义，用于将给定流形嵌入到高维再生核希尔伯特空间，同时该方法具有适用于计算机视觉的两种流形的正定核，并说明欧几里得空间中的支持向量机和主成分分析等算法可应用于测地线非欧几里得空间的数据中。

    Nov, 2014

  • 核函数的共形变换：文本分类中的几何视角

    本文研究了共形变换对支持向量机中使用的核函数的影响，着重于文本文档分类任务，并引入了新的高斯余弦核和两种共形变换。研究结果表明，共形变换可以显著改善核函数的性能，特别是对于次优核函数，在线性核函数的 60%、高斯核函数的 84% 和高斯余弦核函数的 80% 的测试场景中都观察到了改进，从而明确了共形变换在提高核函数性能方面发挥了关键作用。

    Jun, 2024

  • 近似比集中更有效？平滑径向核推理的近似观点

    探讨了正定核及其相关重现核希尔伯特空间的逼近性质，包括核算子和矩阵的特征值衰减、特征函数 / 特征向量的性质、核空间中函数的 “傅里叶” 系数以及核的拟合能力等，并给出了限制在离散数据点上的重现核希尔伯特空间球体的胖打散维度的明确界限，讨论了正定核的容量限制及其对梯度下降等算法的影响。

    Jan, 2018

  • 扩展 Grassmann 核家族：一个嵌入视角

    介绍了几个正定的 Grassmann 核，并证明这些核优于以前已知的核在各种任务中的表现，诸如分类，聚类，稀疏编码和哈希等。

    Jul, 2014

  • 机器学习中的核方法

    本文回顾了利用正定核的机器学习方法，这些方法可以在函数空间构建学习和估计问题，包括二元分类器和结构化数据估计方法，并且这些方法适用于非线性函数和非矢量数据。

    Jan, 2007

  • 对称正定矩阵黎曼流形上的核方法

    该文提出了一种针对 Riemann 流形的 SPD 矩阵进行高维映射的方法，使用一组可证明的正定核函数来扩展基于核方法的算法，进而在人行检测、物体分类、纹理分析、2D 运动分割以及扩散张量成像分割等问题上取得了良好的效果。

    Dec, 2014