本研究提出了一种在机器人学习中处理非欧几里德流形数值数据的本质方法,该方法通过在流形上选择适当的概率分布,并将其参数作为预测变量的函数进行非参数化估计,同时结合核函数的局部似然方法,实现了比投影算法更好的预测准确性。
Oct, 2023
使用统计物理学中的复制法,我们针对一个综合数据集,研究了广义线性回归和分类问题,在超参数化和不充分参数化的条件下,为这些问题提供了渐近泛化表现的闭式表达式,特别地,我们展示了逻辑回归的双重下降效应,突显了用正交投影相比随机高斯投影在学习随机特征时的优越性,讨论了隐藏流形模型中数据相关性的作用。
Feb, 2020
研究了在流形上建模的线性回归,并分析了嵌入空间中的曲率对回归解决方案唯一性的影响,揭示了数据流形几何在确保回归模型对分布外推理的稳定性方面的作用。
Jul, 2023
该研究论文表明,非参数回归器在数据的内在维度的影响下可适应高维数据,k-NN 回归也适应内在维度。这篇论文还证明了最小极限速率不依赖于度量空间或分布的特定选择,而是适用于任何度量空间和加倍度量。
Oct, 2011
本研究提出了一种新的监督学习方法,Manifold Gaussian Processes,该方法通过联合学习将数据转换为特征空间,并从特征空间到观测空间建立了 GP 回归模型,实验结果表明该方法适用于包括非光滑函数和机器人任务等不规则函数。
Feb, 2014
基于 Hypersphere 上的球面多项式,无需预处理数据即可构建一次性逼近,并给出了相对 “粗糙” 函数的最佳逼近速率。
Feb, 2024
本文介绍一种新的参数化定向 metric 学习方法,通过学习数据流形上的平滑 metric 矩阵函数,将本地度量作为区域不同点的锚定点上定义的基本度量的线性组合来学习,并应用 manifold 正则化来使学习到的 metric 矩阵函数沿着数据流形的测地线平滑变化,表现出极好的预测能力和可扩展性,并优于多种全局和局部的最先进的度量学习方法以及具有自动内核选择的支持向量机 (SVM)。
Sep, 2012
这项研究通过在流形上进行回归、流形统计学等探究,提出了一种在响应变量位于流形、协变量位于欧几里得空间情况下的回归预测方法,该方法基于非参数的分布自由概念,通过证明流形上经验预测区域与总体预测区域近似几乎必然收敛来展示其高效性。通过综合模拟研究和实际数据分析进行了验证。
通过在对应的局部区域中基于局部学习模型的加权平均构建全局连续和可微模型的一般框架,我们在处理具有不同密度或不同局部区域功能值范围的数据方面取得了竞争优势,并且通过在局部模型中混合核脊回归和多项式回归项并连续地拼接它们,我们在理论上实现了更快的统计收敛性和在各种实际设置中改进的性能。
Aug, 2023
本文提出了一种在数据为超收缩分布、存在不可避免的敌对噪声情况下,基于平方和框架的线性模型学习算法,该算法的收敛速度与扰动的比例成幂率关系,能达到理论最优收敛速度且在先前研究中未被发现。
Jun, 2020