Dec, 2017

基于随机特征的在线多核学习在未知动态环境下的应用

PDF
TL;DR本文提出了一种基于随机特征逼近和正交促进的可扩展多内核学习方法以实现所需的非线性学习函数，并发展了自适应多核学习方法以进一步提高动态环境下的性能，这种方法不仅考虑了数据驱动的内核组合学习，还考虑了未知动态方面，并在合成和真实数据集上进行了测试以展示算法的有效性。
发现论文，激发创造
  • 高性能核机器：隐式分布式优化和随机化

    本文提出了一个基于分布式凸优化和随机化的算法框架和高性能实现，以实现基于核方法的统计模型的海量规模训练，以便有效地利用大数据。

    Sep, 2014

  • 基于图的在线多核学习

    该论文提出了一种数据驱动的核选择方法，利用相似性构建和优化图，辅助选择核子集，以提高函数近似的准确性和降低计算复杂度，并且采用随机特征逼近来实现在线学习，并通过实验证明了新方法的优势。

    Feb, 2021

  • 动态和非平稳环境中的基于核的函数学习

    机器学习中一个核心主题是从稀疏和嘈杂的数据中进行函数估计。本文研究了内核岭回归，并推导了在非平稳分布下的收敛条件，同时解决了可能无限次发生的随机调适情况，包括重要的探索 - 开发问题。

    Oct, 2023

  • 个性化在线联邦学习的多核方法

    基于多核学习的在线非线性函数逼近，通过联邦学习在分布在不同客户端之间的数据上训练多核模型；提出一种算法框架，允许客户端以可负担的通信成本与服务器进行通信，并利用随机特征近似提出可扩展的在线联邦多核学习算法。实验证明，与其他在线联邦核学习算法相比，该算法具有显著优势。

    Nov, 2023

  • 使用随机傅里叶特征在 RKH 空间中进行网络分布式在线学习

    我们提出了一种新颖的扩散方案，用于在网络上进行基于内核的在线学习，通过使用 Random Fourier Features，将解决方案近似为固定大小的向量，并提供了渐近收敛和网络遗憾的限制条件。

    Mar, 2017

  • 基于核随机特征的大规模非线性变量选择

    本文提出了一种新的非线性回归输入变量选择的方法，这种方法嵌入到一个可以模拟一般非线性函数的核回归机器中，而不是局限于加性模型。通过将输入映射到随机特征的相对低维空间中，绕过了核方法典型的低伸缩性属性。通过学习适当的非线性随机特征映射，该算法发现了与回归任务相关的变量，并学习了预测模型。我们在一组大规模合成和实际数据集上展示了我们的方法的出色性能。

    Apr, 2018

  • 自适应深度核学习

    该研究基于深度神经网络学习参数化的内核算子，在 few-shot 回归任务中学习内核家族，从而使算法能够识别每个任务的适当内核，并通过实际应用于药物发现领域的 few-shot 回归任务与现有算法进行比较，表明其在复杂任务分布和状态下的性能优越。

    May, 2019

  • 非随机特征

    本文提出一种基于 Fourier 分析的方法，用于训练翻译不变或旋转不变的核，并通过一种在线平衡找到动态算法来解释我们的算法，并在合成和现实世界数据集上进行评估，证明了扩展性和与相关随机特征方法相比的一致改进。

    Oct, 2017

  • 通过学习非对称局部自适应核增强核的灵活性

    本文介绍了一种新型的局部自适应带宽（LAB）径向基函数（RBF）核，利用可训练参数增强了核的灵活性，同时建立了一个非对称核岭回归框架并引入了一种迭代式核学习算法，实验结果表明该算法在处理大规模数据集上具有显著性能优势，并且在回归准确度上优于现有的基于核的学习方法，甚至超过了残差神经网络。

    Oct, 2023

  • 一种在线多核并行学习方案

    本文提出了一种学习方案，通过可扩展地结合多个基于单核的在线方法来减少内核选择偏差，从而扩展了单核解空间，增加了找到高性能解的可能性，并在累积正则化最小二乘成本指标方面实验证明所提出的学习方案优于单独使用的组合单核在线方法。

    Aug, 2023