下降幂基及其在统计学中的应用
该文介绍了一种新的回归算法,它学习线性因子函数,并解决了维度灾难的问题,可用于信念传播和强化学习等应用。通过正则化的贪心优化方案,在训练期间学习因子基函数。新的回归算法在基准任务上表现竞争力,学习的线性因子函数相当精简。
Dec, 2014
本文介绍了如何通过将数值型特征编码为自己选择函数的一组函数值向量的方法,将数值特征合理地纳入线性因子机中,其中建议使用具有强大逼近能力的函数如 B-Spline,以提高实时推荐系统的性能。
May, 2023
本文介绍了蝴蝶分解作为满足互补低秩性质的矩阵的一种数据稀疏逼近方法,并阐述了构建该分解的有效算法。结果表明,蝴蝶分解可以被快速地应用于 N x N 矩阵,并取得了很好的数值结果。
Feb, 2015
在当前海量数据和透明机器学习的时代,为了在大规模操作的同时提供对方法内部工作的清晰数学理解,本论文提出了一种使用因子化方法来导出高度可扩展的高阶张量乘积样条模型的新方法,以解决目前大规模应用中可解释的半参数回归方法在模型复杂度和交互作用缺失方面的局限性,同时保持计算成本与无交互作用模型相比成比例,我们还开发了一种有意义的惩罚策略并研究了引发的优化问题,并通过评估我们的方法的预测和估计性能来总结。
Feb, 2024
支持向量机是一种在高维空间中处理分散数据进行分类的重要工具,本研究中利用基于三角函数或小波的特征映射来解决 SVM 问题,并通过多元基函数的限制实现计算效率的提升和解释性强的模型。同时,通过数值实例验证,使用 L1 范数正则化可以在准确性和解释清晰度方面获得更好结果。
Feb, 2024
本篇论文设计了一种 FPRAS 来计算基于独立集先验的任何线性族的基数,估算处于 $0<q<1$ 区间的任何线性族的随机团模型的分区函数,并证明了任何线性族的基交换图具有至少 1 的扩张,并研究了纯单纯复合物和多项式的密切联系。
Nov, 2018
该论文调查了 18 种不同的多项式以及它们在 Kolmogorov-Arnold 网络 (KAN) 模型中的潜在应用,作为传统样条方法的替代。这些多项式根据它们的数学特性进行分类,包括正交多项式、超几何多项式、q - 多项式、斐波那契相关多项式、组合多项式和数论多项式。研究目的是调查这些多项式作为 KAN 模型中的基函数在复杂任务(如 MNIST 数据集上的手写数字分类)中的适用性。评估并比较了 KAN 模型的性能指标,包括总体准确度、Kappa 系数和 F1 得分。Gottlieb-KAN 模型在所有指标上均取得了最高性能,表明其在给定任务中的潜力。然而,需要进一步分析和调整这些多项式在更复杂数据集上的表现,以充分了解它们在 KAN 模型中的能力。这些 KAN 模型的实现源代码可在该 https URL 上获得。
May, 2024
提出了一种基于矩阵变量 $t$ 分布的双线性因子分析模型($t$bfa),能够同时提取重尾或受污染的矩阵数据中行和列变量的共同因子,通过开发两种高效的 $t$bfa 最大似然估计算法,并导出用于计算参数估计精度的 Fisher 信息矩阵的闭式表达式,实证研究表明了 $t$bfa 模型的优越性和实用性,重要的是,$t$bfa 具有比 $t$fa 显著更高的破裂点,使其更适用于矩阵数据。
Jan, 2024
使用矩阵谱分解获得的平行埃尔米特多项式矩阵可用于控制理论系统、数值方法的基函数或信号处理中的多尺度函数。我们介绍了一种基于 Bauer 方法的矩阵谱分解快速算法,并将其转化为非线性矩阵方程(NME)。通过两种不同的数值算法(定点迭代和牛顿法)来求解 NME,分别产生近似的标量或矩阵因子,并且使用符号算法对一些低阶标量或矩阵多项式矩阵产生闭合形式的精确因子。研究了两种数值算法在来自不同领域的若干奇异和非奇异标量或矩阵多项式的收敛速度。特别地,其中一个奇异示例引导了新的正交多尺度和多小波滤波器。此外,我们还使用 Maple 17.0 和 6 个 Matlab 版本的内置函数展示了数值结果,这些结果使用了广义离散时间代数 Lyapunov 方程(GDARE)求解的方法。
Dec, 2023