Nov, 2023

基于 MPI-CUDA 和 Tensorflow 框架的支持向量机实现

PDF
TL;DR支持向量机算法在训练过程中需要解决复杂的二次规划优化问题，这导致计算成本高。本研究通过在不同的并行架构框架上实现支持向量机算法的比较研究，发现 SVM MPI-CUDA 实现在不同数据集上能够优于 SVM TensorFlow 实现，而且 SVM TensorFlow 实现提供了跨平台解决方案，能够迁移到替代硬件组件，从而减少开发时间。
support vector machinecomputational costparallel architecture frameworkssvm mpi-cuda implementationsvm tensorflow implementation
发现论文，激发创造
  • 使用 Frank-Wolfe 优化方法训练支持向量机

    本文提出两种改进的基于 Frank-Wolfe 算法的 SVM 构建方法，能够更高效地解决大规模数据集下的最小包络球问题。实验证明，相比之前的 CVM 方法，这两种方法在大多数情况下都具有更好的扩展性。

    Dec, 2012

  • 量子增强支持向量机与 GPU 加速的大规模恒星分类

    我们引入了一种革新性的量子增强支持向量机（QSVM）方法，利用量子计算和 GPU 加速来进行恒星分类，QSVM 算法在处理复杂的二元和多类别情况下显著优于传统方法，尤其是在哈佛恒星分类系统中。量子原理的整合显著提高了分类准确性，而使用 cuQuantum SDK 进行 GPU 加速确保了量子模拟器中大数据集的计算效率和可扩展性。这种协同作用不仅加快了处理过程，还提高了分类不同恒星类型的准确性，为天体物理学和相关科学领域的研究提供了量子机器学习的变革潜力，为恒星分类的精度和处理速度跃升到一个新的水平。这一进展对天体物理学和相关科学领域具有广泛的影响。

    Nov, 2023

  • 结构化支持向量机的分布式训练

    本研究提出了一种基于分布式块坐标下降方法的有效算法，用于分布式地训练结构化支持向量机，理论与实验结果表明，该方法非常有效。

    Jun, 2015

  • 并行机器学习算法的性能和能耗

    本文讨论了在高性能计算中，采用低功率算法以优化机器学习模型的效率，并测试逻辑回归、神经网络等算法在不同数据规模、模型复杂度下的并行加速表现。

    May, 2023

  • 带有并行计算和 GPU 加速的高斯过程模型

    本论文介绍了一种扩展了高斯过程模型的并行化和 GPU 加速方案，通过将模块化的计算结构与数据点相结合，解决了计算瓶颈问题，并将其代码集成到受欢迎的软件库 GPy 中。

    Oct, 2014

  • 优化与机器学习：半监督支持向量机的精确算法

    支持向量机（SVM）是用于二分类的广泛研究的监督学习模型。半监督支持向量机（S3VMs）通过利用有标签和无标签数据，扩展了传统的 SVM 分类器，旨在在存在无标签数据的情况下最大化样本间的边界，以实现比传统 SVM 更高的准确性和鲁棒性。本文提出了一种新的基于半定规划（SDP）松弛的 S3VMs 分支定界方法。我们应用基于最优性的界限加强方法来限制可行集。箱约束使我们能够包括有效不等式，增强下界。与文献中提供的界限相比，所得到的 SDP 松弛提供了显著更强的界限。至于上界，则利用 SDP 松弛的解定义局部搜索。计算结果突显了该算法的效率，展示其解决数据点数量比文献中的解决数量多 10 倍的实例的能力。

    Dec, 2023

  • 量子时代的机器学习：量子与经典支持向量机

    本文旨在比较机器学习算法的有效性在经典和量子计算范式中。通过研究经典支持向量机和基于量子硬件的量子支持向量机在鸢尾花数据集上的分类能力，我们发现在特定场景下，量子支持向量机可以与经典支持向量机相媲美的准确率，尽管目前的执行时间较长。此外，我们强调增加量子计算能力和并行规模可以显著提高量子机器学习算法的性能。这项研究为我们提供了关于机器学习在量子计算时代的现状和未来潜力的宝贵见解。

    Oct, 2023

  • 量子支持向量机用于大数据分类

    该研究表明，通过矩阵乘法技术实现支持向量机，并在量子计算机上实现，可获得当经典取样算法需要多项式时间时的指数加速，以及内积（核）矩阵的矩阵求逆的非稀疏矩阵数乘法，从而在监督式机器学习中实现新数据分类。

    Jul, 2013

  • 一种用于结构化支持向量机的近线性时间算法

    本文提出了第一个解决具有低秩因子或低树宽度和少量线性约束的二次规划的近似线性时间算法，并暗示了具有低树宽度或低秩的支持向量机的近似线性时间算法。

    Jul, 2023

  • NVIDIA Tensor Core 可编程性、性能和精度

    本文介绍了 NVIDIA Volta GPU 微架构中一种特殊的处理器 Tensor Core，它能够在每个时钟周期内对 4x4 矩阵执行一个矩阵乘积累加操作，经过测试，我们发现 NVIDIA Tensor Core 在 Tesla V100 GPU 上能够以混合精度提供 83 Tflops/s 的处理速度，使得 HPC 应用的矩阵乘法能够获得显著的性能提升。

    Mar, 2018