基于自动调优的混合内核 SVM 分类优化框架在智能像素数据集和异质结晶体管中的应用

Jun, 2024

基于自动调优的混合内核 SVM 分类优化框架在智能像素数据集和异质结晶体管中的应用

An Autotuning-based Optimization Framework for Mixed-kernel SVM Classifications in Smart Pixel Datasets and Heterojunction Transistors

PDF

Xingfu Wu, Tupendra Oli, ustin H. Qian, Valerie Taylor, Mark C. Hersam...

TL;DR支持向量机 (SVM) 是一种科学和工程中广泛使用的最先进的分类方法，本文提出了一种基于自动调节优化框架的方法来量化 SVM 中超参数的范围，以确定它们的最佳选择，并将该框架应用于混合核函数的智能像素数据集和混合核异质结晶体管 (MKH) 数据集，实验结果表明超参数的最佳选择对于不同的应用和数据集有很大的差异，未知的超参数 C 和 coef0 会导致严重的低准确率，该方法可以有效地量化超参数的合适范围并确定其最佳选择来实现最高准确率，高能物理 (HEP) 应用的最高准确率达到 94.6％，MKH 应用的平均准确率为 97.2％且调优时间大大减少。

Abstract

support vector machine (SVM) is a state-of-the-art classification method widely used in science and engineering due to its high accuracy, its ability to deal with high dimensional data, and its flexibility in mod

support vector machine classification method autotuning-based optimization framework hyperparameters mixed-kernel svms

发现论文，激发创造

一种高效的核生存支持向量机训练算法

本文提出了一种高效的核存活支持向量机 (SSVM) 训练算法，通过直接优化主要目标函数，采用截断牛顿优化和随机统计树，降低了与现有训练算法相比的计算复杂度，并证明其可以用于规模更大的数据。

Nov, 2016

优化与机器学习：半监督支持向量机的精确算法

支持向量机（SVM）是用于二分类的广泛研究的监督学习模型。半监督支持向量机（S3VMs）通过利用有标签和无标签数据，扩展了传统的 SVM 分类器，旨在在存在无标签数据的情况下最大化样本间的边界，以实现比传统 SVM 更高的准确性和鲁棒性。本文提出了一种新的基于半定规划（SDP）松弛的 S3VMs 分支定界方法。我们应用基于最优性的界限加强方法来限制可行集。箱约束使我们能够包括有效不等式，增强下界。与文献中提供的界限相比，所得到的 SDP 松弛提供了显著更强的界限。至于上界，则利用 SDP 松弛的解定义局部搜索。计算结果突显了该算法的效率，展示其解决数据点数量比文献中的解决数量多 10 倍的实例的能力。

Dec, 2023

数据分类的一种 SVM 方法替代方案

支持向量机（SVM）是一种流行的用于数据分类的核方法，本文提出一种基于最佳子空间的最小距离的新方法，以解决 SVM 存在的时间处理、高维情况下优化过程失败、多类别泛化、不平衡类别和动态分类的问题，并取得了类似的性能改进。

Aug, 2023

插值和 SVM 之间的新等效性：核和结构化特征

该论文介绍了一种新的和灵活的分析框架，可用于证明任意再生核希尔伯特空间中的支持向量机，并且在独立亚高斯特征和一般有界正交系统家族（例如傅里叶特征）中的特征两个方面都表现出支持向量增殖现象，这些实验未能覆盖。

May, 2023

利用量子核支持向量机进行多光谱卫星图像中的云检测

本文介绍了一种使用量子核心的支持向量机算法，旨在用于卫星数据分析，并以云检测为例，对 Landsat-8 多光谱数据集进行了实验，表明该算法可以成功分类卫星图像并达到与传统支持向量机相同的准确性。

Jul, 2023

成本敏感的支持向量机概率预测

提供了一种生成支持向量机的概率输出的新方法，利用集成方法和自举估计，能够处理不平衡数据集，并在广泛的数据集测试中展现了优势。

Oct, 2023

基于分离度和离散度比率的高效支持向量机正则化参数、核函数以及核函数参数选择

通过随机分析正则化参数的行为，本文将 SVM 的性能建模为数据的可分性和散乱性比率的函数。该比率可以自动检测线性或非线性可分性，并提供优化的正则化参数和核函数及其参数，从而将 CV 网格搜索的计算复杂性仅减少到一次使用 SVM，真实数据集的模拟结果证实了该方法在计算复杂性方面的优越性和高效性。

May, 2023

多成本场景下支持向量机

我们提出了一种新颖的支持向量机模型，通过在问题表达中引入性能约束来考虑误分类成本。具体而言，我们的目标是寻求具有最大间隔的超平面，使得误分类率低于给定的阈值。通过解决一个具有线性约束和整数变量的二次凸问题来获得最大间隔超平面。我们的实验结果表明，我们的模型可以使用户在一个类别上对误分类率进行控制，并且运行时间可行。

Dec, 2023

通用核学习的高效凸优化算法

本文提出了一种基于最小最大优化问题的 SVD-QCQP 原始 - 对偶算法来优化半可分离核函数，极大地降低了计算复杂度，并且在分类和回归中提供了有效的实现。当应用于基准数据时，该算法表现出了显著的精度改进潜力，而计算时间与神经网络和随机森林等典型方法相似甚至更好。

Apr, 2023

Autotune: 一种无导数优化框架，用于超参数调优

该论文提出了一种自动化的并行无导数优化框架 ——Autotune，它结合了多种专业的采样和搜索方法，可有效地调整机器学习模型的超参数，从而提高模型质量和训练效率，并通过并行计算和分布式训练优化算法的资源性能。

Apr, 2018