- AAAI基于 Wishart 机制的差分隐私主成分分析
提出了一种使用 Wishart 分布进行输入扰动以实现 (ε,0)- 差分隐私的新方法,应用于主成分分析,具有更好的效用保证。
- 随机梯度下降法在 PCA 中的收敛性
本文针对主成分分析问题在流式随机场景中进行探讨和研究,给出了针对性的随机梯度下降算法,提供了最新的无需基于非平凡特征值间隙假设的收敛保证,并改进了在该假设下的优化算法保证效果。
- 具有应用价值的分层矩阵快速对称因式分解
本文介绍了一种快速计算对称正定分层矩阵的对称因子分解的算法,基于低秩更新和递归分治策略,可将计算成本降至 O (nlog^2n) 和 O (nlogn),适用于处理概率和统计问题、径向基函数插值和流体力学中的算法等。
- 一种计算效率高且适用于大规模优化的有限内存 CMA-ES 算法
提出了一种基于有限内存协方差矩阵自适应进化策略的大规模优化方法 LM-CMA-ES,将协方差矩阵分解成乔洛斯基因子可以将采样的时间和内存复杂度降至 O (mn),适合于处理非线性连续域的优化问题。
- 一个用于比较图形的新空间
本文提出了一种基于协方差矩阵的图形表示方法,并定义了相似度测量方法,可用于社交网络的分类,同时该方法的计算效率高,可用于大规模实践,并对截断幂次迭代的研究提供了理论和实证支持。
- 高斯过程得分函数的随机逼近
探讨无偏随机逼近的统计特性,通过模拟数据集得到有效计算、可比最大似然估计的技术,并通过 $2^n$ 阶乘设计元素改进算法得到更好的结果
- 高维高斯分布样本协方差矩阵对数行列式定律与微分熵最优估计
本文研究了高维条件下多元高斯分布的差分熵、协方差矩阵的对数行列式的最优估计问题,建立了样本协方差矩阵对数行列式的中心极限定理,并给出了估计器的收敛率和局限性。
- 稀疏尖峰协方差矩阵的最优估计和秩检验
本文研究高维情况下的稀疏尖峰协方差矩阵模型,探讨了协方差矩阵和主子空间的极小极大估计以及极小极大排名检测。在估算尖峰协方差矩阵的最优收敛速率下建立了基于谱范数的优化, 并且还建立了在谱范数下估计主子空间的最小值率,也获取了最优排名检测边界的 - ICML剩余分量分析:在线性高斯模型中推广 PCA 以获得更灵活的推断能力
本文提出了一种新的基于残差方差的概率主成分分析 (PPCA) 模型 —— 残差成分分析 (RCA),并探讨了由此框架产生的新算法,其中包括将高斯密度的协方差分解为低秩与稀疏逆两个部分的算法。作者在蛋白质信号网络恢复,基因表达时间序列数据集分 - 稀疏主成分分析在高维带噪数据下的极小极大界
本文研究了基于独立的高斯观测量对高维种群协方差矩阵的主导特征向量的估计问题,建立了 $l_2$ 损失下估计量最小风险的极小界,并提出了一种新的二阶段坐标选择方案的特征向量估计方法。
- 高维数据的增强稀疏主成分分析
本论文研究基于高维独立的高斯观测下,对总体协方差矩阵中的主要特征向量进行估计的问题。研究者们提出了一种基于坐标选择方案结合 PCA 的主要特征向量估计器,并证明了该估计器在稀疏条件下可以达到最优收敛速率。同时,也证明在某些情形下,通常的 P - 高维协方差矩阵估计与缺失观测
本文介绍了一种简单的过程来解决高维数据的缺失协方差矩阵估计问题,该方法不需要对缺失数据进行插补,并建立了非渐进稀疏奥尔克不等式,最后证明了其速率是渐进最优的。
- 随机矩阵和的所有特征值的尾部界
该研究介绍了一种修正的基于累积量矩阵拉普拉斯变换方法,利用该方法能够提取随机自伴随矩阵求和的每个特征值的上下界,并推导出一些新的特征值谱上的高斯型不等式。两个例子证明了该方法的有效性,分别考虑基于正交规范行矩阵的稀疏化与估计随机向量协方差矩 - 子模遇上谱:子集选择、稀疏逼近和字典选择的贪心算法
本研究通过分析子模函数的最大化和谱分析的见解,引入了子模性比率作为一种关键性质,研究了从大量随机变量中选择 k 个变量的问题,以实现对另一个感兴趣的变量的最佳线性预测,取得了这个问题方面最强的现有近似保证,并运用了该技术进行了实验和分析。
- 稀疏精度矩阵估计的受限 L1 最小化方法
本文提出了一种基于线性规划的 L1 最小化方法,用于估计稀疏逆协方差矩阵和选择图模型,其直观易用、收敛速度快且效果优于现有方法,适用于实际数据分析。
- 协方差矩阵估计的最优收敛速率
本文针对协方差矩阵在多元统计分析中的核心作用,利用 tapering 估计器和 risk 的概念研究得出了协方差矩阵在算子范数和 Frobenius 范数下的最优收敛率及基于这一理论的最小极限上界。
- 通过阈值截断实现协方差正则化
通过硬截断的方式对 $p$ 个变量从 $n$ 个观测值中估计的协方差矩阵进行正则化,结果表明如果真实的协方差矩阵在适当意义下是稀疏的,变量是高斯的或亚高斯的,并且 $(log p)\/n\to0$,则截断估计在算子范数下是一致的,并获得了明 - 通过最小化 L1 惩罚对数行列式差异来进行高维协方差估计
研究了通过最大似然方法估计多元高斯随机场的条件密度函数的逆矩阵,即集中矩阵,并基于图结构进行了解析,同时讨论了其在高维情况下的稳定性和性能
- 一种面向稀疏伪似然逆协方差估计的路径跟踪算法 (SPLICE)
本研究提出了一种基于 l1 范数惩罚的拟似然估计方法来计算协方差矩阵和逆矩阵,称之为 SPLICE 方法。该方法在模型精度和模型选择方面表现出最佳性能。
- 大样本协方差矩阵特征向量的渐近性
论文研究矩阵的特征向量和谱分布的极限行为及线性谱统计的高斯极限,当协方差矩阵是单位矩阵的倍数时,矩阵的特征向量矩阵近似均匀分布