- 从零到英雄:艺术简单初始条件下的局部曲率导致远离不良最小值
我们研究了非凸和高维环境中梯度下降的优化动力学,重点研究了相位恢复问题作为复杂损失地形的案例研究。我们通过分析优化过程中局部曲率的变化,发现在下降的第一个阶段中,对于中等信噪比,Hessian 矩阵显示出朝向好的极小值的下降方向,然后被困在 - 高维线性多臂赌博机与背包问题
研究如何在高维度环境下应用稀疏估计和在线学习算法改进上下文强化学习中的多臂老虎机与背包问题,通过联合在线估计和原始 - 对偶框架,控制背包容量,从而取得了特征维度对数级依赖的次线性遗憾,同时在数据贫瘠和数据丰富情况下实现了最优遗憾结果。
- ICML高维度差分隐私估计器设计
本研究在高维度背景下研究差分隐私的均值估计问题,通过将高维度鲁棒统计的结果应用到差分隐私中,提出了一种计算可行的算法,能够在高维度下完成差分隐私的均值估计,并且在人工合成数据集上表现出了优异的性能。
- 基于 Stein 恒等式的高维指数波动率模型
本文在研究单个和多个指数波动率模型的参数组成估计问题,利用 Stein's identities 发展方法,在高维设置下可以应用于有限时刻条件要求的方差指数估计,同时也放宽了对估计条件的限制,并提供了高维设置下的新方法。
- 非凸随机零阶优化:处理约束、高维度和鞍点
本文提出了针对非凸和凸优化的零阶随机逼近算法,并关注解决约束优化、高维设置和避免鞍点等问题。我们探索了结构稀疏假设的优点,并提出了一种使用零阶信息的被截断随机梯度算法和一种避免鞍点的算法,并讨论了它们的收敛率。
- 高维线性判别分析:最优性、自适应算法和缺失数据
提出一种基于自适应受限 L1 最小化方法的无需调参分类规则,并证明了其在一组参数空间内的速率最优性。同时,对于存在缺失数据的分类问题,引入了一种具有理论保证的自适应分类器,并建立了在 MCR 模型下高维线性判别分析的最优收敛率。该研究围绕线 - 一类通用的修剪估计器族用于高维数据的稳健性分析
研究如何在高维结构化估计中使用强鲁棒技术,包括利用非凸损失函数的修剪版本的结构化规则的 M 估计量,分析它们的统计收敛速率和一致性,并展示了其在基因组数据分析中的表现。
- 稳健低秩矩阵估计
本研究探讨了在高维设定下,采用鲁棒损失函数的核范数惩罚估计器,针对矩阵的低秩假设和稀疏性条件,证明了其非常锐利且非常规的预言性不等式,同时通过模拟结果验证了理论结论
- 稀疏 PCA 中的 Sparsistency 和 Agnostic 推断
研究了高维情况下 Fantope 投影与选择(FPS)方法,并提供了 SPS estimator 的充分条件,不依赖于假定的稀疏性,同时还能提供一种接近最优的预测协方差的稀疏线性降维方法。
- 高维高斯分布样本协方差矩阵对数行列式定律与微分熵最优估计
本文研究了高维条件下多元高斯分布的差分熵、协方差矩阵的对数行列式的最优估计问题,建立了样本协方差矩阵对数行列式的中心极限定理,并给出了估计器的收敛率和局限性。
- 稀疏主成分分析:最优速率和自适应估计
本文考虑了高维情况下主成分子空间的极小值估计和自适应估计,并利用聚合构建了速率最优估计器。同时介绍了一种通过降维来对稀疏主成分分析问题求解的方法。
- NIPS一种使用随机投射在高维空间中实现更强大的双样本检验方法
在高维情形下考虑了检验两个多元正态分布均值差异的统计假设检验问题,其中引入了投影方法和 Hotelling T^2 统计量,并针对高维条件下的渐近推理,概述了测试的渐近功效函数以及通往提高其他最先进测试功效的充分条件,最后通过基于 ROC - 使用贪婪方法学习离散图模型
本文探讨了在高维场景下,从样本中学习成对图模型的结构问题。我们首先讨论了向前向后贪心算法在一般统计模型中应用的稀疏性一致性(稀疏模式恢复)特性。然后,我们将此算法特化到通过邻域估计学习离散图模型的结构问题上。我们的结果保证了样本数 n 随着 - 具有应用于协方差结构测试和压缩感知矩阵构建的随机矩阵相干性的极限定律
本篇论文研究了高维情况下一个 n x p 随机矩阵的相干性极限定理,利用这一定理检验高维高斯分布的协方差矩阵带状程度,同时应用这些结果来构建压缩感知矩阵。