随机数值线性代数讲座
本文介绍了一些概率算法,来完成线性代数计算,如矩阵分解和线性系统求解,覆盖了在实际问题中得到证明的技术和理论知识,包括规范估计,采样的矩阵逼近,线性回归问题,低秩逼近,亚空间迭代和 Krylov 方法,误差估计和自适应性,插值和 CUR 分解,Nystrom 逼近以及核矩阵的逼近等等,特别适用于机器学习和科学计算。
Feb, 2020
随机数值线性代数(RandNLA)在大矩阵的机器学习和数据分析应用中发挥着重要作用,本文提供了 RandNLA 的综合概述,以应对近期的理论和实践挑战。
Jun, 2024
本文详细介绍了随机矩阵算法理论的最新进展以及这些思想在大规模数据分析实际问题求解中的应用,重点放在一些简单的核心思想上,这些思想不仅支撑了最近的理论发展,也使得这些工具在大规模数据应用中非常有用;本文特别关注了统计上的杠杆作用这一概念,它不仅可以用于识别异常值,而且还可以帮助开发更好的矩阵算法,这些方法可以解决诸如线性最小二乘问题和低秩矩阵逼近问题。与之前最佳确定性算法相比,最终得到的随机算法的最坏运行时间渐近更快;它们的数值实现在时间上更快;或者它们可以在现有数值算法无法运行的并行计算环境中运行。
Apr, 2011
这篇论文介绍了高维概率的方法,重点介绍了经典和矩阵 Bernstein 不等式以及均匀矩阵偏差不等式,包括在降维、网络分析、协方差估计、矩阵完整性和稀疏信号恢复等方面的应用。适合没有数据科学经验但已经上过严格的概率课程的初级研究生阅读。
Dec, 2016
本文综述了数值线性代数算法领域的最新进展,着重介绍了利用线性草图技术来进行矩阵压缩的方法,以加速解决原问题。文章讨论了最小二乘、鲁棒回归、低秩逼近和图稀疏化的问题,并优化了这些问题的不同变体。最后,文章探讨了草图方法的局限性。
Nov, 2014
该研究发展了一种基于随机迭代的方法来解决线性系统问题,并通过变化两个参数来恢复广泛的已知算法,并且在单个定理中证明了误差的指数收敛,并给出了预期迭代的精确公式。
Jun, 2015
本文介绍了随机矩阵的三种不同方法:Coulomb 气体方法及其在代数几何方面的解释,循环方程及其使用拓扑递归的解法,正交多项式及其与可积系统的关系。每种方法都提供了其对应的谱曲线定义,这是一种几何对象,可以编码模型的所有属性。此外,我们还介绍了计算多边形表面和计算角积分两个相关的话题。
Oct, 2015
本文是一篇介绍随机矩阵理论基本的非渐近方法和概念的教程,其中涵盖了许多在理论计算机科学、统计学和信号处理等领域的应用,尤其对于统计学中的协方差矩阵估计问题和压缩感知的概率构造测量矩阵的验证有基本应用。
Nov, 2010
在大规模数据时代,分布式系统为处理海量数据提供了可靠的、实惠的存储和可扩展的处理,本文主要介绍发展和实施随机矩阵算法在大规模并行和分布式环境中的最新工作,着重讨论随机投影和随机采样算法在极度超定的 l1 和 l2 回归问题中的实际应用和理论基础。
Feb, 2015
这是一份关于 “随机过程” 的课程笔记,除了标准的随机过程理论之外,还包含了诸如 von Neumann-Birkhoff-Khinchin 遍历定理、宏观系统平衡概念、Markov Chain Monte Carlo、Markov 决策过程和秘书问题等其他内容。
Jun, 2019