May, 2024
从高维观测学习低维潜在动态：非渐近性和下界
Learning Low-dimensional Latent Dynamics from High-dimensional Observations: Non-asymptotics and Lower Bounds
Yuyang Zhang, Shahriar Talebi, Na Li
TL;DR本文研究了一个具有低维潜变量但高维观测值的线性时不变模型，并提出了一个算法，该算法可以恢复高维特征并将数据嵌入到低维空间，并学习低维模型参数，其样本复杂度保证为 $\tilde {\mathcal {O}}(n/\epsilon^2)$，其中 $n$ 为观测维度。此外，本文还建立了一个基本的下界，说明该复杂度保证在对数因子和与维度无关的常数上是最优的。本文还研究了一个元学习问题，该问题受到各种实际应用的启发，在这些应用中，观测者的列空间可以从多个线性时不变系统的数据集中共同学习。然后，提出了一种端到端算法，可以从元数据集中学习线性时不变系统，并在某些情况下突破样本复杂度的下界限制。