KF-PLS: 优化带有核流 (K-PLS) 的核偏最小二乘法
这篇研究论文主要讨论了偏最小二乘(PLS)方法及其在标量回归问题中的应用,分析了由 PLS 得到的回归系数向量与普通最小二乘(OLS)方法得到的回归系数向量之间的距离,提供了该距离的上界并展示了其与回归因子协方差矩阵特征值分组数之间的关系。
Dec, 2023
通过基于先前指定的内核,采用数值逼近方法进行核函数选择 / 构造,从而探索构造非参数深度内核的解决方案,通过减半插值点的数量(使用与内核相关联的本征 RKHS 范数进行度量)而不会显着损失精度的简单前提来进行核函数选择。
Aug, 2018
现代制造价值链需要智能协调公司间的流程,以最大化利润,同时促进社会和环境的可持续性。然而,由于与跨组织数据交换和集成相关的隐私问题,实现基于数据的决策的整合系统级方法目前受到阻碍。我们在这里提出了 Privacy-Preserving Partial Least Squares (P3LS) 回归,一种新颖的联邦学习技术,能够在保护隐私的同时实现组织间数据集成和过程建模。P3LS 使用基于奇异值分解(SVD)的 PLS 算法,并采用由受信任的权威机构生成的可移除随机掩码,以保护每个数据持有者贡献的数据的隐私。我们展示了 P3LS 在由三个参与方组成的假设价值链上垂直集成过程数据以及提高了几个与过程相关的关键绩效指标的预测性能。此外,我们展示了 P3LS 和 PLS 模型组件在模拟数据上的数值等价性,并对前者进行了彻底的隐私分析。此外,我们提出了一种确定贡献数据与问题相关性的机制,从而为量化参与者的贡献奠定基础。
Jan, 2024
提出了一种新的广义多线性回归模型 ——Higher-Order Partial Least Squares (HOPLS),通过将数据投影到潜空间并在相应的潜变量上执行回归,从而预测张量(多维数组)从而解释数据的一系估计模型,该模型通过正交 Tucker 张量的总和来解释数据,正交负载的数量作为控制模型复杂度和防止过度拟合的参数。
Jul, 2012
介绍了一种基于字典的方法 —— 投影学习,用于解决功能输出回归问题,该方法使用不正交字典进行函数预测,可以与字典学习相结合,因此比基于向量的方法更加灵活。采用向量值函数的再生核希尔伯特空间作为基础的核投影学习具有良好的性能。
Mar, 2020
通过使用一个具有稀疏性的权重正则化模型来提供一个具有全局收敛性的算法,以实现数据融合中的样本和特征选择;此外,通过在多视图数据融合中扩展模型来支持具有相同样本集的多视图数据,进一步提高算法的效率。
Aug, 2023
本文介绍了一个拟会泛化误差的具有 Bayesian 框架的 pseudo-label 选择方法 (BPLS),其使用解析近似来选择标签实例,并通过针对高维数据的实证评估来表明其优于传统的 PLS 方法。
Feb, 2023
提出了一种基于局部线性分类器组合的新非线性分类器,通过使用许多局部线性核将问题转化为 l1 多核学习问题,并提供了一种可扩展的用于处理流核的通用 MKL 训练算法,从而得到了适应高准确性但较慢的非线性分类器和快速但较低准确性的线性分类器之间的分类器。
Jan, 2024
研究了基于核的最小二乘回归以及通过早期停止进行过度拟合的正则化的共轭梯度算法,并提出了该方法的收敛率,如果真实回归函数属于再生核希尔伯特空间,则其上限可以匹配之前文献中获得的下限.
Sep, 2010