二阶段多核学习的二元分类框架

ICMLJun, 2012

A Binary Classification Framework for Two-Stage Multiple Kernel Learning

Abhishek Kumar, Alexandru Niculescu-Mizil, Koray Kavukcuoglu, Hal Daume III

TL;DR本文将 Multiple Kernel Learning 问题表述为标准的二分类问题，并在保持学习内核正定性的附加约束条件下进行处理，从而使得更好、更可扩展的 MKL 算法能够更容易地利用二分类研究，从而在各个领域中取得更好的性能，并且易于在实践中操作。进行的实验结果表明，所提出的技术虽然简单，但相比于目前的领先 MKL 方法具有明显的优势。

Abstract

With the advent of kernel methods, automating the task of specifying a suitable kernel has become increasingly important. In this context, the multiple kernel learning (MKL) problem of finding a combination of pr

kernel methods multiple kernel learning binary classification positive definiteness algorithm development

发现论文，激发创造

基于图聚类和半监督分类的自加权多核学习

本文提出了一种新的 MKL 框架，通过将每个核定义为一致核的扰动，并为接近一致核的核分配大权重来解决现有算法的各种问题。该框架被集成到用于基于图形的聚类和半监督分类的统一框架中，并在多个基准数据集上得到了实验验证，证实了新框架的优越性。

Jun, 2018

多组学数据集成的监督多核学习方法

多核学习是一种在生物学和生物信息学中用于多组学输入的灵活、有效的方法，并且可以与深度学习架构相竞争，为异构数据集成方法提供了进一步发展和生物数据挖掘研究的方向。

Mar, 2024

多个局部线性核机器

提出了一种基于局部线性分类器组合的新非线性分类器，通过使用许多局部线性核将问题转化为 l1 多核学习问题，并提供了一种可扩展的用于处理流核的通用 MKL 训练算法，从而得到了适应高准确性但较慢的非线性分类器和快速但较低准确性的线性分类器之间的分类器。

Jan, 2024

基于图的在线多核学习

该论文提出了一种数据驱动的核选择方法，利用相似性构建和优化图，辅助选择核子集，以提高函数近似的准确性和降低计算复杂度，并且采用随机特征逼近来实现在线学习，并通过实验证明了新方法的优势。

Feb, 2021

MKL-$L_{0/1}$-SVM

该论文介绍了一种用于支持向量机（SVM）的多核学习框架（缩写为 MKL）以及使用 $(0, 1)$ 损失函数的方法。通过给出一些一阶次优性条件，进而设计了一种快速 ADMM 求解器来处理非凸和非光滑优化问题。对合成和真实数据集进行了广泛的数值实验，显示出我们的 MKL-$L_{0/1}$-SVM 与一种名为 SimpleMKL（Rakotomamonjy、Bach、Canu 和 Grandvalet 在《机器学习研究杂志》2008 年第 9 卷 2491-2521 页中开发的方法）的先进方法的性能相当。

Aug, 2023

多任务和生命周期学习的核函数

本文针对使用在 SVM 分类器中的学习核在多任务和终身学习场景下的问题，提出了关于大边界分类器误差的泛化界限。我们的结果表明，在学习的核族群满足条件的情况下，在同时解决多个相关任务时比单个任务学习更为有效。特别是，随着观察到的任务数量的增加，假设在所考虑的核族群中存在一种能够在所有任务上产生低逼近误差的核函数，则与学习这个好的核函数相关的额外开销后会消失，学习复杂度将收敛到当学习者掌握这个好的核函数时的学习复杂度。

Feb, 2016

基于逻辑约束的多任务基于核的学习

该论文提出了一个通用框架，将在任务函数集合中以逻辑约束的形式的先验知识集成到核机器中，以及背景环境的部分表示，利用这些知识和监督示例中的信息与学习算法一起操作。

Feb, 2024

本地化多核学习 —— 一种凸优化方法

本文提出了一种基于局部策略的多核学习方法，采用凸优化算法和 Fenchel 对偶表示，对于应用于计算生物学和计算机视觉等应用领域的真实数据集，相比全局和非凸局部策略，此方法能够获得更高的预测准确性。

Jun, 2015

一种在线多核并行学习方案

本文提出了一种学习方案，通过可扩展地结合多个基于单核的在线方法来减少内核选择偏差，从而扩展了单核解空间，增加了找到高性能解的可能性，并在累积正则化最小二乘成本指标方面实验证明所提出的学习方案优于单独使用的组合单核在线方法。

Aug, 2023

端到端监督式多标签对比学习

该研究提出了一种新的端到端训练框架 ——KMCL（基于核的多标签对比学习），以解决模型和数据中心设计的缺点。KMCL 通过将嵌入特征转化为高斯 RKHS 中指数核的混合，然后进行目标损失编码，包括重构损失、非对称分类损失和对比损失来捕捉标签相关性。该框架同时考虑特征编码器的不确定性，并保持较低的计算量。通过对图像分类任务进行广泛实验，展示了 KMCL 相对于 SOTA 方法的一致改进。PyTorch 实现详见 https://github.com/mahdihosseini/KMCL。

Jul, 2023