Apr, 2023

正则化和多视图支持向量机学习的本地化

PDF
TL;DR本论文证明了一些 representer 定理，用于处理一般情况下的支持向量机学习问题，该问题涉及到算子值半正定核和它们的再生核希尔伯特空间。在有限和无限维输入空间和凸或非凸损失函数情况下，我们证明了这个普遍框架允许无限维输入空间和某些特殊案例下的非凸损失函数等。对于导致部分非线性问题的指数最小二乘损失函数进行了详细计算。
representer theoremssupport vector machinekernel hilbert spacesloss functionssemi-definite
发现论文，激发创造
  • 在带有正定函数的再生核 Banach 空间中求解支持向量机

    本文提出了使用再生核 Banach 空间（RKBS）代替传统的再生核 Hilbert 空间（RKHS）来解决支持向量机问题，并介绍了傅里叶变换技术来在广义本地空间中引入再生性质，得到了一个具有特定再生核的再生核 Banach 空间，重述了支持向量机的优化问题和解，并举例说明了 Matérn 函数在此问题中的应用。

    Sep, 2012

  • 广义支持向量回归：对偶性和张量核表示

    本文研究了支持向量回归的变分问题在巴拿赫函数空间中的应用，并利用 Fenchel-Rockafellar 对偶理论给出了对偶问题及相关最优性条件的解析公式；我们提出了一种新的张量核表示计算框架，充分适用于幂级数张量核，也包括指数和多项式核泛函空间的推广。在复数情况下，还包括 Szeg"o 和 Bergman 核的推广。

    Mar, 2016

  • 特征巴拿赫空间中的正则化学习方案

    本文提出了一种统一的框架，利用正则化经验风险最小化来研究特征反射巴拿赫空间的约束学习理论，重点是与完全凸函数相关的 Tikhonov-like 正则化。该框架在各种特征先验设定下提供了灵活的模型，包括一些特别的硬约束和巴拿赫范数的次幂。在此背景下，主要结果建立了表示定理的一种新的一般形式和相应学习方案的相关一致性，同时对基本工具如可重现巴拿赫空间、特征映射和普适性等提供了新的洞见。即使将其专门应用于希尔伯特空间，该框架也可以得出推翻过去状态的新结果。

    Oct, 2014

  • 基于核化多视角自表示的鲁棒聚类方法：张量多秩最小化

    本研究提出了一种基于核化的多视角自表达聚类方法，通过在新特征空间对转换后的数据进行多线性聚类方法的聚类，解决了在非线性子空间中进行数据聚类的问题，实验结果表明提出的方法具有最新颖的性能。

    Sep, 2017

  • 放弃凸性以获得更高效可伸缩的在线多视角学习

    非凸多视角表示学习问题最近在机器学习领域中备受关注，本文提出一种由简单随机梯度下降算法有效求解的非凸公式，并且通过扩散近似建立起渐近全局收敛速率的理论证明。

    Feb, 2017

  • 重现核巴拿赫空间中的学习稀疏表示定理

    通过在 Reproducing Kernel Banach Space（RKBS）中建立显式的代表定理，我们探讨了该 RKBS 中代表的性质，与正则化参数对于解决方案的稀疏性的关系，并证明了一些特定的 RKBS 具有解决稀疏学习问题的能力

    May, 2023

  • 带有不定核的支持向量机分类

    本文提出了一种利用不确定核的支持向量机分类方法，该算法可以同时计算支持向量和代理核矩阵，保持问题凸性并可以使用梯度投影或解析中心切割平面方法有效地求解较大的问题，在经典数据集上与其他方法的性能比较表明本技术的性能优于其他方法。

    Apr, 2008

  • 用于函数响应数据学习的算子值核

    本文介绍了如何在函数数据上使用再生核希尔伯特空间理论进行有监督学习和回归，扩展了基于核的学习的概念和性质，包括估计函数值函数的算法，阐述了一套严格定义的无限维算子值核，以及非线性函数数据分析的学习算法，并通过语音和音频信号处理实验进行了说明。

    Oct, 2015

  • 深度核学习的表征定理

    本文提供一种有限样本和无限样本再生核希尔伯特空间的（线性组合的）核函数连接的表现定理，将分析函数组成的机器学习算法的数学基础。同时，我们还展示了如何将连接的机器学习问题重构为神经网络，并说明了我们的表现定理适用于各种先进的深度学习方法。

    Sep, 2017

  • 半内积空间广义不变性的凸表示学习

    该研究提出了一种基于半范数的广义不变性的学习算法，采用新的欧几里得嵌入技术，可以高效、准确地学习不变表示，并得到了实验证实。

    Apr, 2020