Oct, 2023

支持矩阵机器：综述

PDF
TL;DR支持向量机（SVM）是机器学习中分类和回归问题中最研究的范例之一。矩阵格式的真实世界数据往往在 SVM 中通过将矩阵转化为向量的方式输入，但转化过程中会破坏矩阵数据中的空间关联性，并导致高维度的输入数据引入了显著的计算复杂度。为了克服这些问题，提出了支持矩阵机（SMM），该方法通过使用核范数和弗罗贝尼乌斯范数的光谱弹性网方法来保留矩阵数据的结构信息。本文首次深入分析了 SMM 模型的发展，可供初学者和专家使用的全面摘要。我们讨论了各种 SMM 变体，如鲁棒、稀疏、类别不平衡和多类别分类模型。我们还分析了 SMM 模型的应用，并通过概述潜在的未来研究方向和可能性来总结本文，以促使学术界推动 SMM 算法的发展。
support vector machinesvmsupport matrix machinesmmmatrix input data
发现论文，激发创造
  • 支持向量机及其应用

    介绍支持向量机及其应用，强调其稀疏解决方案，对分类和回归问题进行专门的适用，适用文本处理和生物信息学任务，同时介绍了算法推广和实际应用。

    Dec, 2006

  • 通过支持测量机学习分布

    本文提出了一种基于核的判别式学习框架，使用概率分布作为训练数据，通过将概率分布表示为再生核希尔伯特空间中的平均嵌入，可以应用许多标准的基于核的学习技术，构造了一种支持测量机，提出了一种灵活的支持向量机，实验结果表明所提出的框架有效。

    Feb, 2012

  • 通过矩阵公式增强支持向量机中的模式分类

    支持向量机 (SVM) 在统计学习理论的成功应用方面获得了显著的赞誉。然而，在多类和多标签设置环境中，现有基于向量表示的 SVM 模型的依赖性对于灵活性和易于整合附加项以处理特定挑战方面存在局限性。为了克服这些限制，我们的研究重点介绍了一个有效解决这些约束的 SVM 矩阵形式。通过在对偶问题中应用加速梯度下降方法，我们显著提高了解决矩阵 - SVM 问题的效率。对多标签和多类数据集的实验评估表明，矩阵 SVM 实现了更高的时间效率，并且与二元相关 SVM 的结果相似。此外，我们的矩阵形式揭示了在传统基于向量符号中可能不容易察觉的重要见解和优势。我们强调，许多多标签模型可以被视为 SVM 的扩展，通过定制修改以满足特定要求。本文提出的矩阵形式为开发更复杂的模型奠定了坚实的基础，能够有效应对多标签学习中遇到的独特挑战。

    Jul, 2023

  • 数据分类的一种 SVM 方法替代方案

    支持向量机（SVM）是一种流行的用于数据分类的核方法，本文提出一种基于最佳子空间的最小距离的新方法，以解决 SVM 存在的时间处理、高维情况下优化过程失败、多类别泛化、不平衡类别和动态分类的问题，并取得了类似的性能改进。

    Aug, 2023

  • 支持向量网络的统计力学

    通过统计物理学方法，研究支持向量机的泛化性能，发现在简单规则上支持向量机只过度拟合弱，当输入在特征空间存在间隔时，支持向量机的性能会得到大幅增强。

    Nov, 1998

  • 功能数据分类的支持向量机

    本文研究了使用支持向量机（SVM）进行函数数据分析的问题，着眼于曲线判别问题，展示了如何定义简单的内核函数以考虑数据的函数性质并导致一致的分类，实验表明考虑问题的函数特征对数据的分析是有益的。

    May, 2007

  • 变分相关向量机

    本文介绍了 Relevance Vector Machine，它是一种概率模型，其功能形式相当于 Support Vector Machine，提供完整的预测分布，并且需要更少的核函数。我们展示了如何通过变分推理在完全贝叶斯范式内构建和解决 RVM，并给出超参数的后验分布。我们用人工合成和实际例子证明了变分 RVM 的实用性和性能。

    Jan, 2013

  • 稀疏支持向量机的 Majorization-Minimization

    通过平滑的稀疏促进正则化的平方铰链损失最小化，研究了支持向量机的训练，并应用了基于主要化最小化方法的快速训练方法，提高了特征选择的性能，并在定量指标（准确率、精确率、召回率和 F1 值）以及计算成本方面表现出良好的性能。

    Aug, 2023

  • 插值和 SVM 之间的新等效性：核和结构化特征

    该论文介绍了一种新的和灵活的分析框架，可用于证明任意再生核希尔伯特空间中的支持向量机，并且在独立亚高斯特征和一般有界正交系统家族（例如傅里叶特征）中的特征两个方面都表现出支持向量增殖现象，这些实验未能覆盖。

    May, 2023

  • 优化与机器学习：半监督支持向量机的精确算法

    支持向量机（SVM）是用于二分类的广泛研究的监督学习模型。半监督支持向量机（S3VMs）通过利用有标签和无标签数据，扩展了传统的 SVM 分类器，旨在在存在无标签数据的情况下最大化样本间的边界，以实现比传统 SVM 更高的准确性和鲁棒性。本文提出了一种新的基于半定规划（SDP）松弛的 S3VMs 分支定界方法。我们应用基于最优性的界限加强方法来限制可行集。箱约束使我们能够包括有效不等式，增强下界。与文献中提供的界限相比，所得到的 SDP 松弛提供了显著更强的界限。至于上界，则利用 SDP 松弛的解定义局部搜索。计算结果突显了该算法的效率，展示其解决数据点数量比文献中的解决数量多 10 倍的实例的能力。

    Dec, 2023