- ICML分布式高维分位数回归:估计效率与支持恢复
分布式估计和支持恢复在高维线性分位数回归中具有重要意义,本文通过将原始分位数回归转化为最小二乘优化问题,并应用双平滑方法,提出了一种新的分布式方法来解决此类问题,在保证计算和通信效率的同时能够实现接近 Oracle 收敛速度和高支持恢复精度 - NIPS具有 Oracle 属性的稀疏主成分分析
在高维环境中,本研究针对协方差矩阵 Σ 的 k 维稀疏主子空间进行估计,提出了一种基于稀疏主成分分析的半定松弛估计方法,并在理论上证明了该方法在一定条件下具有支持恢复能力和收敛速率优势。
- 混合线性测量下稀疏信号的支持恢复
该研究讨论了对于罕见的矢量从简单的测量中进行支持恢复,并考虑了混合线性回归和分类器模型,以及在这些模型中使用的算法。
- 主子矩阵恢复中的重叠间隔性质
研究 $k imes k$ 主子矩阵的支持恢复以及 MLE 和谱方法在支持恢复中的应用,并证明在统计计算间隙存在的情况下,局部 MCMC 算法无法达到最佳恢复效果。
- 基于分位损失函数的高维分布式回归
本文研究了具有重尾噪声的高维线性回归模型的分布式估计和支持恢复,并采用分位数回归损失函数来处理噪声。我们提出了一种计算和通信效率高的分布式估计器,理论上表明该方法在少数迭代后即能达到近乎理想的收敛速度,并且还为支持恢复提供了理论保证。
- 组合惩罚:凸松弛保留了哪些结构?
通过研究支持集上的组合惩罚函数的同质和非同质凸松弛,提出了一种基于凸单调正则化器的自适应估计器,利用集函数的较低组合信封概念和新的支持识别必要条件,得出了支持恢复的新充分条件(发现其紧度不同)。
- 通用单比特压缩感知的改进界限
本研究旨在展示如何在一位压缩感知框架中恢复稀疏高维向量的支持度以及改进约束在以一位压缩感知测量中从向量中近似恢复的测量数。我们的结果是通用的,即同样的测量方案可同时适用于所有稀疏向量,并且支持度恢复的最优性是通过证明一个使用 1 位压缩感知 - 正交最小二乘法的近优界
本文研究了用于稀疏恢复的正交最小二乘算法以及与之相关的采样矩阵的限制等距性质,证明了在满足特定条件下,算法能够从采样中精确恢复出 $k$- 稀疏向量的支撑集,并提供了对于一般情况下无法恢复的支撑集的上界调节量。
- 正交匹配追踪精确支持恢复的严格条件
本文研究了通过正交匹配追踪 (OMP) 从嘈杂观测中恢复稀疏信号,证明了当任何大小为 K 的稀疏信号满足受限等距性属性 (RIP) 时,OMP 可以从噪声观测中 K 次迭代恢复信号的支撑,同时提出了严格的最小幅度约束条件。
- 高维单指数模型的支持恢复和 L1 正则化最小二乘估计 (Gaussian Designs)
本研究针对一类单指数模型,在不同的数据分布和假设条件下分别采用切片逆回归、LASSO 以及协方差筛选等算法,实现对支持集的恢复,并对 LASSO 用于线性模型的支持恢复结果进行推广。
- 基于信息论的概率模型支持恢复限制
该论文采用阈值技术中的概率模型,探讨了对于一组观测数据与数据向量之间的关系的支持恢复问题。该论文提出了通用的可行性和对偶性边界,为线性、1 位和组测试模型提供了特定的可行性和对偶性边界。
- 在噪声存在的情况下使用正交匹配追踪支持恢复:一项新的分析
本文研究压缩感知领域的稀疏信号恢复问题,通过对正交匹配追踪算法在噪声情况下的研究,分析了两种信噪比设置情况下的恢复效果及最低信噪比要求,同时比较了在不同条件下算法的精确恢复率,结果可用于某些实际应用场景。
- 大型高斯图模型参数估计的渐近正态性和优化性质
本文提出了一种新的回归方法,根据样本大小相对于稀疏性条件,在稀疏条件下获得每个精度矩阵条目的渐近高效估计,以解决高斯图模型中有关样本大小问题的难点,同时实现了整个精度矩阵的自适应速率最优估计及在潜变量的图模型中进行推断。
- 极小最大子矩阵检测中的计算障碍
研究如何检测在被加性高斯噪声污染的大矩阵中具有提高平均值的小子矩阵的最小极小方法,考虑复杂度理论角度的统计性能和计算成本之间的平衡问题,得出当矩阵规模 p→无穷大时,当子矩阵大小 k =Θ(pα) 时,计算复杂度会对统计性能造成严重的惩罚, - 稀疏脉冲解卷积的精确支持恢复
本文研究测度空间中稀疏高斯脉冲信号的反卷积问题,提出总变差正则化方法用于测度恢复,当信噪比足够大时,可以精确恢复脉冲信号的支撑点位置。
- 稀疏非凸学习问题的最优计算和统计收敛速率
提出了一种近似正则化路径追踪方法,用于求解许多具有非凸问题求解的学习问题,该算法迭代复杂度与全正则化路径相同,可以同时提供统计和计算收敛率的显式表达式,并可以实现全局几何收敛,以及对于所有近似局部解的样本复杂度分析和精确支持恢复结果。
- 关于从带噪声的线性测量中恢复树稀疏向量的基本限制
本文探讨了通过 Tree-sparse 信号的自适应传感和结构稀疏融合的压缩感官技术在支持恢复任务中的性能极限。结果表明,这种自适应树传感过程几乎是最优的。
- 高维稀疏回归与匹配追踪
研究高维稀疏回归的非随机误差问题,并开发算法来支持恢复,实验展示了标准异常值过滤技术、稳健回归算法、处理随机噪声或擦除的算法不能提供支持恢复的保证。
- 稀疏协方差矩阵估计的自适应阈值化
本文提出一种自适应节流估计程序,适应于独立条目的变异性,用于估计稀疏协方差矩阵,该估计器完全是数据驱动的,性能在理论和数字上均表现出优秀水平,并且自适应地在谱范数下实现了大类稀疏协方差矩阵的最优收敛率,同时,普遍使用的通用阈值估计器在相同的