Oct, 2010

通过凸优化估计低秩张量

PDF
TL;DR提出三种方法用于从部分观察中估计多维数组（张量）的 Tucker 分解，这些方法都可以自动估计因子数（秩），并采用凸优化进行求解，其中采用的主要技术是迹范数正则化，还提出了简单的启发式方法以提高因子分解的可解释性。通过合成和真实数据集上的数值实验，证明了该方法比传统方法预测性能更准确、更快，更可靠。
tucker decompositionmulti-way arraysconvex optimizationtrace norm regularizationinterpretability
发现论文，激发创造
  • 结构化低秩张量学习

    提出了一种基于流形的张量低秩分解方法，利用 Riemannian 优化算法解决了存在结构约束和部分观测时的优化问题，并在非负约束和 Hankel 约束下得到了验证。

    May, 2023

  • 鲁棒低秩张量恢复：模型与算法

    本文在凸优化框架中研究了鲁棒性低秩张量恢复问题，并提出了具有全局收敛保证的定制优化算法，包括交替方向增广 Lagrange 算法和加速近端梯度方法。作者还提出了一种非凸模型，并通过实际应用展示了鲁棒性低秩张量恢复的实用有效性。

    Nov, 2013

  • 迹范数惩罚的低秩优化

    本文提出一种通过交替固定秩优化与秩一更新来解决低秩矩阵迹范数最小化问题的算法，针对具有理曼结构的非线性搜索空间，利用有效的因子分解实现了迹范数在搜索空间的可微以及对偶间隙的数值计算可行，提出了一个拥有保证二次收敛速度的二阶信任域算法，并以低秩矩阵完成和多元线性回归问题为例说明了该算法的性能。

    Dec, 2011

  • 一种新的基于张量分解的方法，对不精确秩估计具有鲁棒性

    本文提出了一种新的张量范数，同时利用低秩先验和秩信息，包括一系列张量管秩的代理函数，可在张量数据中更好地利用低秩，通过使用样本技巧计算更小张量的 t-SVD 而不是原始张量来计算提出的双低秩约束的张量范数。随后，优化算法的每个迭代的计算成本从标准方法的 O (n^4) 降低到 O (n^3 log n + kn^3)，其中 k 为真实张量秩的估计值，远小于 n。本方法在合成和现实数据上得到了评估，并表现出优于现有 STOA 张量完成方法的性能和效率。

    May, 2023

  • 非凸优化遇见低秩矩阵分解：概述

    本文从统计模型的角度出发，系统地讨论低秩矩阵分解非凸优化的可靠解法，总结出了两种方法：1. 根据问题特征设计初始值，进行迭代求解；2. 利用全局凸性分析，无需初始值，直接求解。文章阐述了这些方法在各种场景下的应用并剖析了其理论基础。

    Sep, 2018

  • 低秩张量补全的并行矩阵分解

    本研究提出了一个新的模型以及应用交替最小化算法和两种自适应秩调整策略同时对低秩张量进行低秩矩阵分解，结果表明，该算法可以在比其他方法更少的数据采样下恢复各种合成低秩张量，而且实际数据的测试结果也有类似优势。

    Dec, 2013

  • 线性张量变换的分解

    本研究论文旨在开发一种能够将张量表示为有限数量低秩张量之和的精确张量分解的数学框架，通过解决三个不同的问题来导出：i）非负自伴随张量算子的分解；ii）线性张量变换的分解；iii）一般张量的分解。

    Sep, 2023

  • 广义张量估计的最优统计和计算框架

    该论文提出了一种灵活的通用低秩张量估计问题的框架，包括计算成像、基因组学和网络分析等应用中的许多重要实例，并通过投影梯度下降的统一方法来克服这些问题的非凸性，以适应底层低秩结构，并证明该算法在估计误差的收敛速度上达到极小值最优率。

    Feb, 2020

  • 张量列车秩最小化：统计效率和可扩展算法

    本文提出了一种基于张量分解的方法，通过引入凸弛松弛的方法和随机化技术构建一种具有可扩展性的交替优化算法，用于高维张量的完成任务，实验结果表明了该方法的性能。

    Aug, 2017

  • 多分辨率低秩张量分解

    通过多分辨率低秩张量分解以层次化方式描述张量，这种方法能够利用不同层次分辨率上的结构，创造性地解决了高阶张量分解这一基础问题。

    May, 2024