Feb, 2016

多任务和生命周期学习的核函数

PDF
TL;DR本文针对使用在 SVM 分类器中的学习核在多任务和终身学习场景下的问题，提出了关于大边界分类器误差的泛化界限。我们的结果表明，在学习的核族群满足条件的情况下，在同时解决多个相关任务时比单个任务学习更为有效。特别是，随着观察到的任务数量的增加，假设在所考虑的核族群中存在一种能够在所有任务上产生低逼近误差的核函数，则与学习这个好的核函数相关的额外开销后会消失，学习复杂度将收敛到当学习者掌握这个好的核函数时的学习复杂度。
kernelssvm classificationmulti-task learninglifelong learninggeneralization bounds
发现论文，激发创造
  • 多任务高效输出核学习

    该研究通过正半定核理论，提出一种可以优化多任务学习的无约束对偶问题，从而节省了计算时间。

    Nov, 2015

  • 基于逻辑约束的多任务基于核的学习

    该论文提出了一个通用框架，将在任务函数集合中以逻辑约束的形式的先验知识集成到核机器中，以及背景环境的部分表示，利用这些知识和监督示例中的信息与学习算法一起操作。

    Feb, 2024

  • 本地化多核学习 —— 一种凸优化方法

    本文提出了一种基于局部策略的多核学习方法，采用凸优化算法和 Fenchel 对偶表示，对于应用于计算生物学和计算机视觉等应用领域的真实数据集，相比全局和非凸局部策略，此方法能够获得更高的预测准确性。

    Jun, 2015

  • 聚类多任务学习：一个凸形式

    本文提出了一种新的谱范数方法，用于多任务学习，假设任务被分成不同的群组，每个群组具有相似的权重向量，并演示其在合成数据及 IEDB MHC-I 结合数据集上的优秀表现。

    Sep, 2008

  • 二阶段多核学习的二元分类框架

    本文将 Multiple Kernel Learning 问题表述为标准的二分类问题，并在保持学习内核正定性的附加约束条件下进行处理，从而使得更好、更可扩展的 MKL 算法能够更容易地利用二分类研究，从而在各个领域中取得更好的性能，并且易于在实践中操作。进行的实验结果表明，所提出的技术虽然简单，但相比于目前的领先 MKL 方法具有明显的优势。

    Jun, 2012

  • 核心连续学习

    本文介绍基于 kernel 方法的 kernel continual learning 模型，通过采用 episodic memory 存储子集样本的方式，利用 kernel ridge regression 算法学习任务特定的分类器，避免了内存重放以及分类器中存在任务干扰的问题。进一步，引入 variational random features 方法学习数据驱动的 kernel，而不需要提前选择 kernel 函数。在四个基准测试上的结果表明了 kernel 在 continual learning 任务中的有效性和灵活性。

    Jul, 2021

  • 一种在线多核并行学习方案

    本文提出了一种学习方案，通过可扩展地结合多个基于单核的在线方法来减少内核选择偏差，从而扩展了单核解空间，增加了找到高性能解的可能性，并在累积正则化最小二乘成本指标方面实验证明所提出的学习方案优于单独使用的组合单核在线方法。

    Aug, 2023

  • 多个局部线性核机器

    提出了一种基于局部线性分类器组合的新非线性分类器，通过使用许多局部线性核将问题转化为 l1 多核学习问题，并提供了一种可扩展的用于处理流核的通用 MKL 训练算法，从而得到了适应高准确性但较慢的非线性分类器和快速但较低准确性的线性分类器之间的分类器。

    Jan, 2024

  • 可证明的表示学习终身学习

    提出一种终身学习算法，通过维护和完善内部特征表示，使前面学习所得的知识能够迁移并应用于接下来的学习任务中，从而提高样本利用效率，并通过实验证明，与现有的终身学习方法相比具有更高的效率。

    Oct, 2021

  • 了解深度学习需要了解核学习

    研究表明深度学习和浅层核方法在过拟合问题上表现相似，而不是泛化性能高的唯一因素，因此需要更深入地研究浅层核方法，以更好地理解深度学习。

    Feb, 2018