凸可扩展的弱标记支持向量机
支持向量机(SVM)是用于二分类的广泛研究的监督学习模型。半监督支持向量机(S3VMs)通过利用有标签和无标签数据,扩展了传统的 SVM 分类器,旨在在存在无标签数据的情况下最大化样本间的边界,以实现比传统 SVM 更高的准确性和鲁棒性。本文提出了一种新的基于半定规划(SDP)松弛的 S3VMs 分支定界方法。我们应用基于最优性的界限加强方法来限制可行集。箱约束使我们能够包括有效不等式,增强下界。与文献中提供的界限相比,所得到的 SDP 松弛提供了显著更强的界限。至于上界,则利用 SDP 松弛的解定义局部搜索。计算结果突显了该算法的效率,展示其解决数据点数量比文献中的解决数量多 10 倍的实例的能力。
Dec, 2023
该论文提出了一种通用的多类弱监督分类方法,其中引入了一种基于凸松弛的代价函数来解决软最大损失的本地极小问题,于是设计了一种算法来高效地解决相应的半定规划问题,并在不同数据集上表现出较好的效果,包括多实例学习和半监督学习,以及聚类任务。
Jun, 2012
提出了一种使用符号域知识作为约束条件的新型可扩展端到端管道,用于学习神经网络以弱监督方式对未标记数据进行分类。该方法尤其适用于数据由不同组(类)组成且适合于聚类友好型表示学习的设置,并且可以通过同时考虑多个训练示例来重新制定领域约束以采用有效的数学优化技术。我们在 MNIST 图像分类问题的变体上进行了评估,其中训练示例由图像序列和表示序列中数字的总和组成,并且表明我们的方法比先前依赖于计算每个训练示例的所有约束满足组合的方法具有更大的可扩展性。
Jan, 2023
本文提出了一种新的谱范数方法,用于多任务学习,假设任务被分成不同的群组,每个群组具有相似的权重向量,并演示其在合成数据及 IEDB MHC-I 结合数据集上的优秀表现。
Sep, 2008
探讨了在训练数据以组的形式提供并且仅知道每组中每个类别的比例时,学习带标记比例的问题,提出了一种称为比例 - SVM 的新方法,采用大边际框架明确地建模潜在未知实例标签和已知组标签比例,并通过两种算法解决该模型所引出的非凸整数规划问题。
Jun, 2013
本文提出了一种新的方法,采用自我训练的方式来处理部分标签数据,其中采用了基于最大无穷范数的伪标签技术来自动实现基准标签的分类,并通过使用简单的二次规划方法进行拟合优化。通过在自制和真实世界数据集上的测试,证明了所提出的方法比现有的部分标签学习方法更加有效。
Feb, 2019
本文提出了一种名为 RMI-SVM 的松弛多实例支持向量机方法,使用 Noisy-OR 模型强制 MIL 约束,并联合优化袋标签和实例标签,以解决传统的 MIL 问题,经实验证明,在各种基准测试中,RMI-SVM 始终实现了卓越的性能。同时,简单应用 RMI-SVM 于一个具有挑战性的视觉任务,常见物体发现,Pascal VOC 数据集上的最新结果进一步证实了该方法的优点。
Oct, 2015