从单轨迹非渐近辨识线性时不变系统
我们研究了在单一轨迹上学习稳定未知噪声线性时不变系统的问题,并提出了一种新算法,通过解耦系统的不稳定子空间和稳定子空间来避免状态空间维度的指数级增长。使用基于奇异值分解的分析框架,我们证明了在状态范数达到 2^(O (k log n)) 之前,系统能够被稳定,避免了传统方法中状态维度指数级增长的问题。本文是第一篇避免状态空间维度指数级增长的稳定带噪声线性时不变系统的文章。
May, 2024
研究稳定非线性系统动力学学习问题,使用基于梯度的算法从单个有限轨迹的样本中学习系统动态,特别地,针对 entry-wise 非线性激活函数列出保证,通过数值实验验证了理论公式的正确性。
Feb, 2020
该研究针对不稳定线性系统的参数识别问题进行了研究,建立了针对重尾噪声分布和转移矩阵的一类较大误差最小二乘估计的有限时间界限,并与问题维度和真实转移矩阵的关键特征及噪声分布函数的性质相关联,并使用随机矩阵和鞅差序列的适当浓度不等式来实现这些结果。
Oct, 2017
该研究介绍了一种算法用于从单个轨迹中恢复权重矩阵,并成功应用于非线性动力系统,无需对其进行谱范数的限制。该算法的计算复杂度为线性,并具有较低的采样复杂度。
Apr, 2020
本文研究了一个具有低维潜变量但高维观测值的线性时不变模型,并提出了一个算法,该算法可以恢复高维特征并将数据嵌入到低维空间,并学习低维模型参数,其样本复杂度保证为 $\tilde {\mathcal {O}}(n/\epsilon^2)$,其中 $n$ 为观测维度。此外,本文还建立了一个基本的下界,说明该复杂度保证在对数因子和与维度无关的常数上是最优的。本文还研究了一个元学习问题,该问题受到各种实际应用的启发,在这些应用中,观测者的列空间可以从多个线性时不变系统的数据集中共同学习。然后,提出了一种端到端算法,可以从元数据集中学习线性时不变系统,并在某些情况下突破样本复杂度的下界限制。
May, 2024
在已知部分观测的线性动态系统属于已知候选模型的有限集合的情况下,本文关注线性系统识别问题。我们首先考虑了给定轨迹的识别问题,利用线性最小二乘方法的最新非渐近分析进展来表征这个问题的有限时间样本复杂性,并设计了一个维度无关样本复杂性界的学习器。接下来,我们考虑了线性系统的切换控制问题,其中每个候选模型都有一个候选控制器,并通过系统与一组潜在的破坏性控制器的交互来收集数据,我们开发了一个维度相关的准则来在有限时间内检测这些破坏性控制器。我们利用这些结果提出了一个数据驱动的切换策略来识别潜在系统的未知参数,并对其性能进行了非渐近分析,并讨论了其对基于估计的监督控制方法的影响。
Apr, 2024
该论文介绍了最近在系统辨识理论中发展起来的非渐近方法,重点介绍了在该领域的一系列问题中特别有用的工具,如覆盖技术、Hanson-Wright 不等式和自标准化马丁格尔方法,并使用这些工具对用于识别自回归模型中的参数的各种最小二乘估计器的性能给出了简化的证明。最后概述了如何将所提出的思想扩展到某些非线性辨识问题。
Sep, 2023
该研究提出了一种从观察多种系统动态下的轨迹中学习线性系统模型的算法,其中系统根据相似性被分为不同的簇,并推导出一种通过估计系统簇身份并估计动态来更新每个簇模型的方法,从而实现更高效和个性化的系统识别过程。
Apr, 2023