本文是一篇介绍随机矩阵理论基本的非渐近方法和概念的教程,其中涵盖了许多在理论计算机科学、统计学和信号处理等领域的应用,尤其对于统计学中的协方差矩阵估计问题和压缩感知的概率构造测量矩阵的验证有基本应用。
Nov, 2010
我们提出了一个新的理论框架,将随机矩阵理论应用于高维非高斯数据分布下,为多任务回归提供准确的性能估计;我们通过将多任务优化问题形式化为一种正则化技术来使单任务模型利用多任务学习信息,并在线性模型的背景下导出了多任务优化的闭式解;我们的分析通过将多任务学习性能与各种模型统计量(如原始数据协方差、信号生成超平面、噪声水平以及数据集的大小和数量)进行链接,提供了有价值的见解;最后,我们提出了对训练和测试误差的一致估计,从而为多任务回归场景中的超参数优化提供了稳健的基础;将我们的方法与训练损失相结合,从而利用多变量信息,实验证实了在回归和多变量时间序列预测的合成和真实世界数据集上对于单变量模型的改进。
Jun, 2024
该论文回顾了最近利用随机矩阵理论(RMT)工具估计大协方差矩阵的结果,介绍了几种 RMT 方法和分析技术,如复制品形式和免费概率等,并强调了 Marchenko-Pastur 方程,它提供了有关成倍污染的嘈杂矩阵的解的信息,特别关注经验相关矩阵的特征向量的统计学,说明这些结果特别适用于当没有先验关于基础过程结构的情况下构建大协方差矩阵的一致的 “旋转不变” 估算器(RIE),最后将一些真实世界的应用作为典型案例,确立 RIE 框架的实证效力,在这种情况下,发现其优于以前提出的所有方法。
Oct, 2016
本文回顾了多元统计分析和随机矩阵理论之间的联系,着重探讨随机矩阵理论在数据集合分析中的应用。
Nov, 2006
该研究论文介绍了如何基于几何方法来估计具有独立条目的随机矩阵的极奇异值,重点关注了随机矩阵的硬边缘 (最小奇异值) 的非渐近理论。
Mar, 2010
本文介绍了随机矩阵的三种不同方法:Coulomb 气体方法及其在代数几何方面的解释,循环方程及其使用拓扑递归的解法,正交多项式及其与可积系统的关系。每种方法都提供了其对应的谱曲线定义,这是一种几何对象,可以编码模型的所有属性。此外,我们还介绍了计算多边形表面和计算角积分两个相关的话题。
Oct, 2015
本文详细介绍了随机矩阵算法理论的最新进展以及这些思想在大规模数据分析实际问题求解中的应用,重点放在一些简单的核心思想上,这些思想不仅支撑了最近的理论发展,也使得这些工具在大规模数据应用中非常有用;本文特别关注了统计上的杠杆作用这一概念,它不仅可以用于识别异常值,而且还可以帮助开发更好的矩阵算法,这些方法可以解决诸如线性最小二乘问题和低秩矩阵逼近问题。与之前最佳确定性算法相比,最终得到的随机算法的最坏运行时间渐近更快;它们的数值实现在时间上更快;或者它们可以在现有数值算法无法运行的并行计算环境中运行。
Apr, 2011
此篇论文利用随机矩阵理论来理解和描述神经网络的损失曲面及其谱,并应用于现代神经网络的训练方法,为随机矩阵理论在现代神经网络的理论研究中提供了重要的贡献。
Jun, 2023
本研究针对出现在深度神经网络分析中的随机矩阵乘积奇异值分布进行了研究,其中,数据矩阵的总体协方差矩阵是随机的,基于随机矩阵理论和标准技术,分析了数据矩阵的非高斯分布并阐述其在分析宏观普适性方面的潜在应用。
Jan, 2020
本文回顾了随机图在其期望周围的浓缩区域中的不同模式,并讨论了这些浓缩结果在网络社区检测问题中的应用,同时介绍了一些与其相关的随机矩阵理论模型和工具。
Jan, 2018