Aug, 2023

稀疏支持向量机的 Majorization-Minimization

PDF
TL;DR通过平滑的稀疏促进正则化的平方铰链损失最小化，研究了支持向量机的训练，并应用了基于主要化最小化方法的快速训练方法，提高了特征选择的性能，并在定量指标（准确率、精确率、召回率和 F1 值）以及计算成本方面表现出良好的性能。
support vector machinessparse-promoting-regularized squared hinge loss minimizationquick training methodssparsity-preserving regularizerscomputational cost
发现论文，激发创造
  • 最大化最小间隔的多类支持向量机

    我们提出了一种新的多类支持向量机方法，通过考虑两两类别损失，并最大化最小的间隔，实现多类别分类。我们的方法在深度学习中类似于 softmax 的概念，可以作为深度学习中网络参数学习的有效增强。实证评估结果表明，我们的方法在现有的多分类方法上具有明显的优势。

    Dec, 2023

  • 支持向量机及其应用

    介绍支持向量机及其应用，强调其稀疏解决方案，对分类和回归问题进行专门的适用，适用文本处理和生物信息学任务，同时介绍了算法推广和实际应用。

    Dec, 2006

  • 基于新型损失函数的二分类支持向量机

    我们提出了一种基于置信边界的滑动损失函数来构建支持向量机分类器，通过引入近似稳定点的概念和利用利普希茨连续性的性质，我们为滑动支持向量机推导了一阶最优性条件，并定义了滑动支持向量和滑动工作集。为了高效处理滑动支持向量机，我们设计了一种带有滑动工作集的快速交替方向乘子方法，并提供了收敛性分析。在真实世界数据集上的数值实验证实了该方法的鲁棒性和有效性。

    Mar, 2024

  • 优化与机器学习：半监督支持向量机的精确算法

    支持向量机（SVM）是用于二分类的广泛研究的监督学习模型。半监督支持向量机（S3VMs）通过利用有标签和无标签数据，扩展了传统的 SVM 分类器，旨在在存在无标签数据的情况下最大化样本间的边界，以实现比传统 SVM 更高的准确性和鲁棒性。本文提出了一种新的基于半定规划（SDP）松弛的 S3VMs 分支定界方法。我们应用基于最优性的界限加强方法来限制可行集。箱约束使我们能够包括有效不等式，增强下界。与文献中提供的界限相比，所得到的 SDP 松弛提供了显著更强的界限。至于上界，则利用 SDP 松弛的解定义局部搜索。计算结果突显了该算法的效率，展示其解决数据点数量比文献中的解决数量多 10 倍的实例的能力。

    Dec, 2023

  • 多成本场景下支持向量机

    我们提出了一种新颖的支持向量机模型，通过在问题表达中引入性能约束来考虑误分类成本。具体而言，我们的目标是寻求具有最大间隔的超平面，使得误分类率低于给定的阈值。通过解决一个具有线性约束和整数变量的二次凸问题来获得最大间隔超平面。我们的实验结果表明，我们的模型可以使用户在一个类别上对误分类率进行控制，并且运行时间可行。

    Dec, 2023

  • 基于近紧边距的支持向量机广义化界

    本文重新审视和改进了最大化边际的基本分类工具 SVM 的广义界限，并通过近乎匹配的下限补充了新的广义界限，从而几乎解决了 SVM 在边际方面的广义性能。

    Jun, 2020

  • 使用线性支持向量机的深度学习

    本文中，我们探究了在深度学习识别任务中，用 L2-SVMs 替换 softmax 可在 MNIST、CIFAR-10 和面部表情识别等数据集上获得显著提升。

    Jun, 2013

  • 带有 $l_0$ 范数 Hinge 损失的核支持向量机分类器

    本文讨论了用于二分类问题的支持向量机（SVM）中 $l_0$-norm hinge loss 和 ADMM 算法， 证明了其等价关系和局部最优解，并对比了实验结果。

    Jun, 2023

  • 原始形式下的拉普拉斯支持向量机训练

    本文提出两种解决原始 LapSVM 问题的策略，以改善在使用无标签数据进行分类时所遇到的问题，并在真实数据实验中验证了该方法的有效性。

    Sep, 2009

  • 加权支持向量机的稀疏学习和类概率估计

    我们提出了一种基于加权支持向量机的稀疏学习方法，结合了自动变量选择和准确的概率估计，既能有效地进行变量选择，又能可靠地估计概率。这种方法在自动变量选择和可靠概率估计方面具有巨大优势，并且适用于高维问题。

    Dec, 2023