利用紧致核进行条件期望计算
提出一种基于核独立性度量的特征选择方法,通过约束优化问题中的条件协方差算子的痕迹,选择预测响应的最大子集,证明了该方法的一些一致性结果,并证明了我们的方法在各种合成和实际数据集上具有与其他最先进的算法相比的优势。
Jul, 2017
运用新的算子理论方法,结合核函数、随机过程和建设性学习算法,我们提出了用于条件均值嵌入的基于谱分析的优化方案,在优化模型特征选择的过程中,利用正定核的凸集。
May, 2023
本研究提出了非参数贝叶斯规则的去条件化核均值嵌入,并且展示了其与任务转换高斯过程的后验预测均值的联系。这提供了贝叶斯解释和不确定性估计,解释了它们的正则化超参数,揭示了内核超参数学习的边缘似然函数。这些发现进一步促进了无似然推断和大数据的稀疏表征等实际应用。
Jun, 2019
使用无算子、测度论方法,将条件均值嵌入(CME)作为在再生核希尔伯特空间中取值的随机变量进行了处理,并推导了一种自然的回归解释来获得经验估计,提供了彻底的理论分析,包括通用一致性。作为自然副产品,我们获得了最大均值差异和希尔伯特 - 施密特独立标准的条件类比,并通过模拟演示了它们的行为。
Feb, 2020
我们提出了一种新的方法,用于估计昂贵的样本或积分估计的条件或参数期望。通过概率数值方法的框架(如贝叶斯求和),我们的新方法允许结合关于积分和条件期望的先验平滑性知识从而提供一种量化不确定性的方式,并在贝叶斯敏感性分析、计算金融和不确定性决策等具有挑战性的任务中在理论上和实证上得到了快速收敛率的确认。
Jun, 2024
该论文提出了一种基于核函数的机器学习算法,可以通过对数据集的分组进行处理,采用独立同分布的样本集作为数据点,利用非参数估计器提取核函数特征从而实现多种分类、回归和异常检测等任务。
Feb, 2012
通过建立 full density 模型 f (yjx) 而非只有期望值 E (yjx),条件密度估计广义了回归。本文提出了双核条件密度估计器,并引入了基于双数树的快速算法,用最大似然准则进行带宽选择,从而在处理多变量数据集时取得 380 万倍的加速。
Jun, 2012
在空间统计和机器学习中,核矩阵在预测、分类和最大似然估计中起着关键作用。对于大样本量情况,经彻底检查发现,只要采样位置相对均匀分布,核矩阵就会出现病态,这给预测和估计计算中使用的数值算法带来了重大挑战,需要对预测和高斯似然进行近似处理。对当前管理大规模空间数据的方法进行综述表明,一些方法未能解决这个病态问题。这种病态经常导致随机过程的低秩近似。本文引入了各种最佳性准则,并提供了相应的解决方案。
Nov, 2023
我们提出了经验弱收敛(EWC)的新概念作为解释核方法在明显不是独立同分布(i.i.d.)抽样方案下(例如数据来自动力学系统)表现优异的一般假设,该假设假定存在一个随机的渐近数据分布,并且是领域中以前的假设的严格削弱。我们的主要结果建立了 SVMs,核均值嵌入和一般希尔伯特空间值经验期望与 EWC 数据的一致性。我们的分析适用于有限和无限维输出,我们将统计学习的经典结果推广到后一种情况。总的来说,我们的结果为统计学习开辟了新的过程类别,并可以作为超越独立同分布和混合学习的一种理论基础。
Jun, 2024