高维回归分析中的因子模型和变量选择
通过提出鲁棒性函数主成分和鲁棒线性回归结合的两步估计方法和一种可以减少估计曲率的转换,本研究在椭圆分布下证明了这些估计量的 Fisher 一致性和在温和正则性条件下的一致性,探究了这些估计量的影响函数,模拟实验表明,相比现有的方法,所提出的估计方法具有合理的效率、能够防止出现异常预测点、产生平滑的估计值,并表现良好。
Jun, 2018
本文提出了一种广义的函数线性回归模型,包括函数线性模型、泊松回归和二项回归,并使用截断 Karhunen-Loeve 展开逼近预测过程进行降维,开发了一种适用于广义回归模型的渐近推断方法,其中截断参数随样本大小而增加,并应用控制变量的中心极限定理来建立维数的渐近增加,建立合适的 L^2 度量下的估计和真实函数之间的适当缩放距离的渐近正态性。
May, 2005
本文提出了一种基于贝叶斯方法的变量选择算法,考虑了预测变量之间的关联,并针对各种线性模型开发了不同的先验分布,其中包括任意交互项和多项式、分类因子的虚拟变量等,这种方法在 George 和 McCulloch Stochastic Search Variable Selection 算法中得到了应用,能够提高模型的性能。
Oct, 1995
本研究考虑高维线性模型中的变量选择,提出了部分可信度的新概念并使用它推断协变量和响应之间的关联,利用部分可信度开发出具有可行计算性的 PC-simple 算法,并在随机设计矩阵的不同性质下提供一致的变量选择。与基于惩罚的方法相比,该算法在数千个协变量下表现良好。
Jun, 2009
使用线性代数的向量和矩阵概念,从个体随机变量的统计信息出发,找到了与这些统计信息相关的一组随机变量的等效统计信息,得到了描述随机变量与代表它们的主成分间相关系数的代数公式。该公式与因子分析中用于计算因子载荷的公式相同,可以用于优化主成分分析和因子分析中的主成分和因子数量。
Oct, 2023
本文提出了一类非凸惩罚剖面似然方法,用于选择和估计线性混合效应模型中的重要固定效应和随机效应,并针对随机效应的未知协方差矩阵使用代理矩阵,进一步提出了一种组变量选择策略,以同时选择和估计重要的随机效应。
Nov, 2012
提出一种非参数贝叶斯因子回归模型,考虑因子个数的不确定性和因子间的关系,通过 Kingman coalescent 基于因子的分层模型,将其与 sparse Indian Buffet Process 相结合,应用于基因表达数据分析中的因子分析和因子回归问题。
Aug, 2009
本篇论文针对高维回归或分类框架中预测变量高度相关的情况下的变量选择问题,研究使用随机森林算法的变量选择。论文提供了一种理论研究和模拟实验的方式,证明了使用递归特征排除算法作为排名标准对变量进行选择的高效性,并进行了陆地卫星数据集的测试。
Oct, 2013
本文回顾了如何利用信息标准、收缩方法、Fence 法和贝叶斯技术等四种主要方法,解决选择适当的线性混合效应模型的问题。通过考察一系列文献的方法、性质和相互关系,帮助读者更好地了解可用的方法。
Jun, 2013