Aug, 2007

使用高斯核的支持向量机的快速率

PDF
TL;DR针对二元分类问题，本文对带有铰链损失和高斯径向基核的支持向量机建立了学习速率，这些速率是基于两个假设，即 Tsybakov 的噪声假设和一个新的几何噪声条件，前者用于评估小的估计误差，后者用于限制近似误差。与以前用于限定近似误差的概念不同，本文提出的几何噪声条件不需要任何平滑性假设。
binary classificationsupport vector machineshinge lossgaussian rbf kernelsgeometric noise condition
发现论文，激发创造
  • 支持向量机指数收敛速率的案例

    该研究论文研究了分类问题，并介绍了一种简单的机制来获得快速收敛率，以及它在支持向量机中的使用，证明了 SVM 可以展现指数收敛率而不需要假定艰难的 Tsybakov 边缘条件。

    May, 2022

  • 支持向量网络的统计力学

    通过统计物理学方法，研究支持向量机的泛化性能，发现在简单规则上支持向量机只过度拟合弱，当输入在特征空间存在间隔时，支持向量机的性能会得到大幅增强。

    Nov, 1998

  • 核基学习中的稀疏逼近方法的改进收敛速率

    本文针对核方法的高计算成本问题，提出了 Nyström 方法和稀疏变分高斯过程逼近方法的置信区间，从而改进了模型在回归和优化问题中的性能界限。

    Feb, 2022

  • 基于近紧边距的支持向量机广义化界

    本文重新审视和改进了最大化边际的基本分类工具 SVM 的广义界限，并通过近乎匹配的下限补充了新的广义界限，从而几乎解决了 SVM 在边际方面的广义性能。

    Jun, 2020

  • 重尾损失下的快速学习速率

    研究非有界并且存在重尾分布的损失函数的快速学习率，并引入了两个新的条件，可以得到比 $O (n^{-1/2})$ 更快的学习速率，例如在 $k$- 均值聚类问题中得到的结果。

    Sep, 2016

  • 支持向量机精确定误分析

    研究高维和大量数据下来自高斯混合分布的软间隔和硬间隔支持向量机分类器的渐近行为，并提出了应用于分类错误率、边缘和偏差等重要参数的尖锐预测。同时，通过分析硬间隔 SVM 可分离的最大训练样本数，精确比较了硬间隔和软间隔 SVM 的性能，并提高了对相关参数（如测量数量和边缘参数）对分类性能的理解。

    Mar, 2020

  • 线性支持向量机与随机特征的理论实现

    在低噪声假设下，使用优化的特征映射的支持向量机在训练集（样本数为 m）上能够实现比 O (1/√m) 更快的学习速率，此方法将随机特征方法从最小二乘损失扩展到 0-1 损失，并且我们发现加权特征选择方法能帮助提高随机特征支持向量机在合成数据集上的性能。

    Sep, 2018

  • 基于新型损失函数的二分类支持向量机

    我们提出了一种基于置信边界的滑动损失函数来构建支持向量机分类器，通过引入近似稳定点的概念和利用利普希茨连续性的性质，我们为滑动支持向量机推导了一阶最优性条件，并定义了滑动支持向量和滑动工作集。为了高效处理滑动支持向量机，我们设计了一种带有滑动工作集的快速交替方向乘子方法，并提供了收敛性分析。在真实世界数据集上的数值实验证实了该方法的鲁棒性和有效性。

    Mar, 2024

  • 多成本场景下支持向量机

    我们提出了一种新颖的支持向量机模型，通过在问题表达中引入性能约束来考虑误分类成本。具体而言，我们的目标是寻求具有最大间隔的超平面，使得误分类率低于给定的阈值。通过解决一个具有线性约束和整数变量的二次凸问题来获得最大间隔超平面。我们的实验结果表明，我们的模型可以使用户在一个类别上对误分类率进行控制，并且运行时间可行。

    Dec, 2023

  • kNN 分类器对未知非对称标签噪声具有快速识别率

    研究在类别依赖的非对称标签噪声存在下的分类问题，提出了一种基于 Robust kNN 分类器的方法实现了纯净样本设定下的极小化最优率，同时提出了一种仅需少量假设的函数最大值估计方法。

    Jun, 2019