Oct, 2023

动态和非平稳环境中的基于核的函数学习

PDF
TL;DR机器学习中一个核心主题是从稀疏和嘈杂的数据中进行函数估计。本文研究了内核岭回归，并推导了在非平稳分布下的收敛条件，同时解决了可能无限次发生的随机调适情况，包括重要的探索 - 开发问题。
machine learningfunction estimationsparse datanoisy datakernel-based ridge regression
发现论文，激发创造
  • 通过非参数散度估计在样本集上的核函数

    该论文提出了一种基于核函数的机器学习算法，可以通过对数据集的分组进行处理，采用独立同分布的样本集作为数据点，利用非参数估计器提取核函数特征从而实现多种分类、回归和异常检测等任务。

    Feb, 2012

  • 非参数学习非局部算子中的核函数

    本文采用数据自适应 RKHS Tikhonov 正则化方法，提出基于可识别性函数空间的非局部算子核学习的收敛估计器，成功地从实际数据中学习微观尺度上应用于非均质固体的应力波传播的均质化模型，并在健壮性，泛化性和准确性方面优于基线方法。

    May, 2022

  • 来自数据的核学习到深渊的核流

    通过基于先前指定的内核，采用数值逼近方法进行核函数选择 / 构造，从而探索构造非参数深度内核的解决方案，通过减半插值点的数量（使用与内核相关联的本征 RKHS 范数进行度量）而不会显着损失精度的简单前提来进行核函数选择。

    Aug, 2018

  • 内核空间中的函数分布

    本文提出了一种基于函数内核的学习方法（FKL），通过将高斯过程置于谱密度上，直接推断出内核的功能后验分布，从而能够支持任何平稳内核，具有对内核值的不确定性，以及直接对内核的先验规范，而不需要复杂的初始化或人为干预。我们通过椭圆切片采样进行推断，这对于较强相关性先验的函数空间建模尤其适用。我们将我们的方法应用于非均匀、大规模、多任务和多维数据，并在插值、外推和内核恢复实验中展现了良好的性能。

    Oct, 2019

  • 一种新的可靠且简约的学习策略，由两层高斯过程构成，以解决非均匀经验相关结构

    通过将函数模型为非平稳高斯过程的样本函数，学习一对变量之间的功能关系，解决可用数据的相关结构的不均匀性问题，并在其中嵌套多个高斯过程，从而建立了两个高斯过程层的充分性。

    Apr, 2024

  • 输入扭曲用于非平稳函数的贝叶斯优化

    本文介绍一种基于 Beta 累积分布函数的自适应学习输入空间的方法，针对多任务贝叶斯优化问题，将多个任务共同映射为稳定的空间，实验结果表明，该方法可以大幅提升全局寻优的效率和准确性。

    Feb, 2014

  • 用于函数响应数据学习的算子值核

    本文介绍了如何在函数数据上使用再生核希尔伯特空间理论进行有监督学习和回归，扩展了基于核的学习的概念和性质，包括估计函数值函数的算法，阐述了一套严格定义的无限维算子值核，以及非线性函数数据分析的学习算法，并通过语音和音频信号处理实验进行了说明。

    Oct, 2015

  • 深入的高斯过程的非稳态卷积核的统一视角

    高斯过程常用于数据的随机函数逼近和不确定性量化，在机器学习中它们表现出优秀的预测能力，尤其在数据稀缺场景下，但核函数作为高斯过程的重要构建模块，通常需要进行复杂的定制，我们通过研究代表性数据集中多种核函数的表现、性质和性能，提出了一种融合现有核函数优点的新核函数。

    Sep, 2023

  • 自动化谱核学习

    本文提出了一种基于非平稳谱核并能从数据中灵活学习谱度量的强大高效谱核学习框架，还导出了一个基于 Rademacher 复杂度的数据相关推广误差界，并提出两个正则化项以提高性能。实验结果表明该算法的有效性并验证了作者的理论结果。

    Sep, 2019

  • 非静态谱核

    提出了用于高斯过程回归的非平稳谱核，其谱密度由输入依赖高斯过程频率密度表面的混合物建模，实现了能够学习输入依赖和潜在长程非单调协方差（inputs-dependent and potentially long-range, non-monotonic covariances）的一族非平稳和非单调核函数，并借助模型白化和边缘概率等方法推导出有效的推理方法，证明这些核函数在建模具有非平稳特征的时间序列、图像或地理空间数据时是必要的。

    May, 2017