May, 2023

基于分离度和离散度比率的高效支持向量机正则化参数、核函数以及核函数参数选择

PDF
TL;DR通过随机分析正则化参数的行为，本文将 SVM 的性能建模为数据的可分性和散乱性比率的函数。该比率可以自动检测线性或非线性可分性，并提供优化的正则化参数和核函数及其参数，从而将 CV 网格搜索的计算复杂性仅减少到一次使用 SVM，真实数据集的模拟结果证实了该方法在计算复杂性方面的优越性和高效性。
support vector machineregularization parameterseparabilityscatterednesss&s ratio
发现论文，激发创造
  • 成本敏感的支持向量机概率预测

    提供了一种生成支持向量机的概率输出的新方法，利用集成方法和自举估计，能够处理不平衡数据集，并在广泛的数据集测试中展现了优势。

    Oct, 2023

  • 一种高效的核生存支持向量机训练算法

    本文提出了一种高效的核存活支持向量机 (SSVM) 训练算法，通过直接优化主要目标函数，采用截断牛顿优化和随机统计树，降低了与现有训练算法相比的计算复杂度，并证明其可以用于规模更大的数据。

    Nov, 2016

  • 基于自动调优的混合内核 SVM 分类优化框架在智能像素数据集和异质结晶体管中的应用

    支持向量机 (SVM) 是一种科学和工程中广泛使用的最先进的分类方法，本文提出了一种基于自动调节优化框架的方法来量化 SVM 中超参数的范围，以确定它们的最佳选择，并将该框架应用于混合核函数的智能像素数据集和混合核异质结晶体管 (MKH) 数据集，实验结果表明超参数的最佳选择对于不同的应用和数据集有很大的差异，未知的超参数 C 和 coef0 会导致严重的低准确率，该方法可以有效地量化超参数的合适范围并确定其最佳选择来实现最高准确率，高能物理 (HEP) 应用的最高准确率达到 94.6％，MKH 应用的平均准确率为 97.2％且调优时间大大减少。

    Jun, 2024

  • 插值和 SVM 之间的新等效性：核和结构化特征

    该论文介绍了一种新的和灵活的分析框架，可用于证明任意再生核希尔伯特空间中的支持向量机，并且在独立亚高斯特征和一般有界正交系统家族（例如傅里叶特征）中的特征两个方面都表现出支持向量增殖现象，这些实验未能覆盖。

    May, 2023

  • 支持向量机的鲁棒性与正则化

    本文将正则化支持向量机与鲁棒优化公式进行比较，并表明它们是精确等效的。这个比较对算法和分析有影响，可以构建出保护噪声和同时控制过拟合的分类问题的更一般的类 SVM 算法，同时提供正则化 SVM 成功率鲁棒优化解释的分析证明，从而明确了鲁棒性是正则化 SVM 泛化良好的原因。

    Mar, 2008

  • 加权支持向量机的稀疏学习和类概率估计

    我们提出了一种基于加权支持向量机的稀疏学习方法，结合了自动变量选择和准确的概率估计，既能有效地进行变量选择，又能可靠地估计概率。这种方法在自动变量选择和可靠概率估计方面具有巨大优势，并且适用于高维问题。

    Dec, 2023

  • 局部支持向量机的 Lp 和风险一致性

    本文分析了本地化支持向量机在一些弱条件下的相对一致性，证明了即使训练数据集的大小发生变化，本地化 SVM 可以从全局 SVM 继承 lp- 和风险一致性。

    May, 2023

  • 稀疏支持向量机的 Majorization-Minimization

    通过平滑的稀疏促进正则化的平方铰链损失最小化，研究了支持向量机的训练，并应用了基于主要化最小化方法的快速训练方法，提高了特征选择的性能，并在定量指标（准确率、精确率、召回率和 F1 值）以及计算成本方面表现出良好的性能。

    Aug, 2023

  • 支持向量数据描述的核带宽选择的痕迹准则

    该研究提出了一种新的无监督方法来选择高斯核带宽值，其利用核矩阵的低秩表示来建议带宽值，该方法在低维数据上与现有技术相当，对许多类高维数据表现极好。

    Nov, 2018

  • 优化与机器学习：半监督支持向量机的精确算法

    支持向量机（SVM）是用于二分类的广泛研究的监督学习模型。半监督支持向量机（S3VMs）通过利用有标签和无标签数据，扩展了传统的 SVM 分类器，旨在在存在无标签数据的情况下最大化样本间的边界，以实现比传统 SVM 更高的准确性和鲁棒性。本文提出了一种新的基于半定规划（SDP）松弛的 S3VMs 分支定界方法。我们应用基于最优性的界限加强方法来限制可行集。箱约束使我们能够包括有效不等式，增强下界。与文献中提供的界限相比，所得到的 SDP 松弛提供了显著更强的界限。至于上界，则利用 SDP 松弛的解定义局部搜索。计算结果突显了该算法的效率，展示其解决数据点数量比文献中的解决数量多 10 倍的实例的能力。

    Dec, 2023