Jan, 2024

任意元素相关下的结构化矩阵学习和马尔可夫转移核估计

PDF
TL;DR该研究考虑了嘈杂的低秩加稀疏矩阵恢复的一般框架，并提出了一个不相干约束的最小二乘估计器，证明了它在确定性下界和匹配最小极小风险方面的紧密性，同时展示了在一些重要的统计机器学习问题中的应用。
structured matrix estimationnoisy low-rank-plus-sparse matrix recoveryincoherent-constrained least-square estimatorestimating markov transition kernelalternating minimization algorithm
发现论文，激发创造
  • 基于结构化范数最小化的图模型估计

    通过提出一种基于新型结构规范的通用框架，以及使用线性化的多块交替方向乘数法算法来高效地解决该问题，我们研究了从高维数据中估计稀疏、结构稀疏和密集组件的模型。在合成和实际数据集上的实验证实了这种方法的优越性。

    Sep, 2016

  • 低秩强化学习光谱逐项矩阵估计

    研究低秩结构引发的强化学习中的矩阵估计问题，通过简单的基于谱的方法高效地恢复矩阵的奇异子空间并实现最小的逐项误差，从而设计了充分利用低秩结构的强化学习算法，包括低秩赌博机问题的最小遗憾算法和低秩马尔可夫决策过程中的无奖励 RL 的最佳策略识别算法，两种算法均具有最先进的性能保证。

    Oct, 2023

  • 低置换秩矩阵：结构性质与噪声完整性

    本文提出了基于置换秩的模型，可以避免传统基于非负秩模型的限制，并证明了该模型下的估计极小值等价于传统低秩模型，进而分析了一个基于奇异值阈值的有效算法，并展示了多样的结构结果来表征置换秩分解的唯一性和凸逼近。

    Sep, 2017

  • 利用结构回收随机性进行次线性时间核扩展

    提出一种方案，通过随机嵌入将高斯随机向量回收到结构化矩阵中，以实现对各种核函数的近似，该方案可在亚线性时间内完成。其中包括 Fastfood 构造作为特例，还可扩展到周而复始、托普利兹和汉克尔矩阵以及广泛的结构化矩阵家族，该矩阵家族的特征在于低位移秩的概念。介绍了控制逼近质量的相干性和图论结构常数的概念，并证明了在我们的框架内出现的随机特征映射的无偏性和低方差性质。对于低位移矩阵的情况，我们展示了如何控制结构和随机性的程度，以降低统计方差的代价，但需要增加计算和存储要求。实证结果强烈支持我们的理论，并证明了使用随机特征来扩展核方法的可行性。

    May, 2016

  • 高效的结构化矩阵秩最小化

    利用核范数正则化寻找结构化低秩矩阵的问题，我们采用线性映射来编码结构，并提出了一种更有效的方法，与同类方法相比，该方法在迭代次数和计算成本上都有所改善，并在随机系统实现和光谱压缩感知问题中表现出色。

    Sep, 2015

  • 噪声矩阵补全的线性形式的统计推断

    基于矩阵的噪声观测，我们构建了一个弹性框架以推断其线性形式，我们提出了一种构建渐近正常估计量的普遍过程，以进行双重样本去偏差和低秩投影，从而允许我们构建线性形式的置信区间并检验假说。

    Aug, 2019

  • 稀疏因子模型下的噪声矩阵补全

    本文针对具有噪声的矩阵完成任务进行了研究，特别关注于估计由两个未知矩阵的乘积组成的矩阵，其中一个是稀疏矩阵的情况，提出了基于稀疏因子模型的正则化最大似然估计的误差界和算法方法。

    Nov, 2014

  • 通过保证低秩矩阵估计对大数据的结构进行利用

    低秩建模在信号处理和机器学习中扮演着关键的角色，本文综述了利用凸和非凸方法对低秩矩阵估计进行计算上高效可证的方法，其中包括对低维子空间和流形的适当利用及其对计算和存储成本的显著降低。

    Feb, 2018

  • 同时稀疏和低秩矩阵的估计

    本文介绍了一种罚矩阵估计过程，旨在同时具有稀疏和低秩的解决方案。我们引入了一个凸混合惩罚，同时涉及 l1 范数和迹范数。我们在链接预测问题中限制了广义误差，并开发了近端下降策略以有效解决优化问题，并在合成和真实数据集上评估了性能。

    Jun, 2012

  • 非凸低秩矩阵估计的统一计算与统计框架

    提出了一种基于梯度下降算法的非凸优化的低秩矩阵估计的统一框架，其通用性很强，可应用于噪声和无噪声观测，算法能够线性收敛到未知低秩矩阵的最小最优统计误差，同时也能够以线性速率收敛到未知低秩矩阵，并以最优样本复杂度实现精确恢复。

    Oct, 2016