Mar, 2024

一种保结构核方法用于学习哈密顿系统

PDF
TL;DR给出一种结构保持的核岭回归方法，可以从由哈密顿矢量场的噪声观测组成的数据集中恢复可能是高维和非线性的哈密顿函数。该方法提供了一个闭式解，其数值性能优于文献中提出的其他技术。从方法论的角度，本文将核回归方法扩展到需要涉及梯度线性函数的损失函数的问题，特别是在这种背景下证明了微分再生性质和 Representer 定理。分析了结构保持的核估计量与高斯后验均值估计量之间的关系。进行了完整的误差分析，使用固定和自适应正则化参数提供了收敛速度。通过各种数值实验展示了所提出估计器的良好性能。
structure-preserving kernel ridge regressionhigh-dimensional and nonlinear hamiltonian functionskernel regression methodsdifferential reproducing propertygaussian posterior mean estimator
发现论文，激发创造
  • 使用再生核希尔伯特空间和随机特征学习哈密顿动力学

    从有限且有噪声的数据集中学习哈密尔顿动力学的一种方法，该方法在本质上哈密尔顿向量场的再生核希尔伯特空间（RKHS）中学习哈密尔顿向量场，尤其是奇哈密尔顿向量场。使用辛对称核来实现奇对称性，以及如何将核修改为奇辛核。提出了一种随机特征近似方法，用于减小问题规模，其中包括奇核的随机特征近似。在三个哈密尔顿系统的仿真验证了该方法的性能，证明了奇辛核的应用可以提高预测精度，并且学习到的向量场是哈密尔顿的，并展现了强制施加的奇对称特性。

    Apr, 2024

  • 使用再生核希尔伯特空间学习哈密顿动力学

    本论文提出了一种学习哈密顿动力学的方法，能够从有限的数据点中学习哈密顿向量场，使用具有哈密顿性质的向量场在重构核希尔伯特空间上进行正则优化，并要求向量场为奇数或偶数。通过使用辛核函数，论文展示了如何修改这个辛核函数为奇数或偶数，并通过模拟验证了该方法在两个哈密顿系统中的性能，证明了所学到的动力学是哈密顿的，并且所学到的哈密顿向量场可以指定为奇数或偶数。

    Dec, 2023

  • 从轨迹数据中重建未知哈密顿系统的结构保持方法

    本研究提出了一种结构 - 保持的数值方法，用于逼近未知的哈密顿系统，通过直接逼近未知的哈密顿函数而非方程右端来实现守恒定律，同时也提出了处理噪声数据的实用去噪程序。

    May, 2019

  • Koopman 核回归

    该研究提出了一种基于 Koopman 算子理论的新型重现核希尔伯特空间 (RKHS)，称为 Koopman Kernel Regression (KKR)，可以提高预测的准确性和泛化能力，对于以 Koopman 为基础的预测器，最新的统计学习方法存在限制，所以提供比现有研究更为详尽的证明和更宽松的假设。

    May, 2023

  • 基于再生核希尔伯特空间的普通微分方程系统估计

    提出了一种基于惩罚最大似然的一般方法来估计带噪声的微分方程组的参数，并使用再生核希尔伯特空间方法来将估计问题形式化为易于解决的无约束数值最大化问题，并用合成的数据测试了所提出的方法，并使用基因表达数据估计未观察到的转录因子 CdaR 在 Steptomyes coelicolor 中的作用。

    Nov, 2013

  • 关于核函数的近似方法

    统计学习中的各种方法建立在再生核 Hilbert 空间中的核上。在应用中，核通常根据问题和数据的特征进行选择，然后用于在未观察到解释性数据的点处推断响应变量。本文考虑了在高维紧致集合中定位的数据，并且对核本身的近似进行了讨论。新的方法考虑了径向核函数的 Taylor 级数近似。对于单位立方上的 Gauss 核，本文建立了关联特征值的上限，该特征仅在指数方面呈多项式增长。新方法证实了比文献中考虑的较小正则化参数，从而导致更好的近似。该改进证实了像 Nyström 方法这样的低秩近似方法。

    Mar, 2024

  • 非参数学习非局部算子中的核函数

    本文采用数据自适应 RKHS Tikhonov 正则化方法，提出基于可识别性函数空间的非局部算子核学习的收敛估计器，成功地从实际数据中学习微观尺度上应用于非均质固体的应力波传播的均质化模型，并在健壮性，泛化性和准确性方面优于基线方法。

    May, 2022

  • 机器学习中的核方法

    本文回顾了利用正定核的机器学习方法，这些方法可以在函数空间构建学习和估计问题，包括二元分类器和结构化数据估计方法，并且这些方法适用于非线性函数和非矢量数据。

    Jan, 2007

  • 高维非线性多元回归和 Granger 因果关系的可扩展矩阵核学习

    提出了一种矩阵值多核学习框架，可用于高维非线性多元回归问题，并使用广泛的 Mixed Norm Regularizers 支持字典的向量值再现核希尔伯特空间上的疏松度约束；通过该框架，高维因果推断任务可被自然地看作稀疏函数估计问题进行，从而引出了一类新的图形 Granger 因果分析技术的非线性扩展。

    Aug, 2014

  • 自然语言处理中的结构化核学习

    本文介绍使用高斯过程在结构核中进行模型选择的方法，并给出在树核上的实验结果，证明其比使用网格搜索的超参数优化方法具有更好的预测性能。

    Aug, 2015