Nov, 2023

稳定线性子空间识别：一种机器学习方法

PDF
TL;DRSIMBa 是一种使用反向传播的离散线性多步提前状态空间系统辨识方法家族，它通过引入 Schur 矩阵的基于线性矩阵不等式的自由参数化来确保辨识模型的稳定性。SIMBa 通常胜过传统线性状态空间辨识方法，并能在同时实现最先进的拟合性能和稳定性的情况下，承担更高的计算负担。
machine learninglinear system identificationsimbabackpropagationstability
发现论文，激发创造
  • 基于 L-BFGS-B 的 L1 和分组 - Lasso 正则化下的线性和非线性系统辨识

    基于 L-BFGS-B 算法，本文提出了一种识别线性和非线性离散时间状态空间模型的方法，可能在 $l_1$ 和组 - Lasso 正则化的基础上进行。该方法不仅丰富了现有的线性系统识别工具集，还可应用于识别包括循环神经网络在内的极其广泛的参数非线性状态空间模型。

    Mar, 2024

  • SiBBlInGS: 基于相似性驱动的跨状态图形构建块推理

    SiBBlInGS 提供了一种解释性方法，采用基于图形的字典学习方法发现建筑块，同时在数据中考虑了内部和内部状态之间的关系，并允许交叉状态变化，可以识别特定于状态的建筑块，提供了监督和数据驱动方法，以控制不同状态之间建筑块的相似性水平。

    Jun, 2023

  • SiMBA: 简化的基于 Mamba 的视觉与多元时间序列架构

    提出了一种新的体系结构 SiMBA，通过特定特征值计算引入 Einstein FFT（EinFFT）用于通道建模，使用 Mamba 块进行序列建模，通过对图像和时间序列基准的广泛性能研究证明 SiMBA 在性能上优于现有的 SSMs，缩小与现有的 transformers 的性能差距。

    Mar, 2024

  • 学习高维结构化单指数模型

    本文提出了高维度结构限制下单指数模型（Single Index Models）的计算有效算法，实验证明该方法相对于广义线性模型和单层前馈神经网络都有更好的预测性能并具有更低的计算成本。

    Mar, 2016

  • 一种基于子空间编码器方法的非线性状态空间识别初始化方法

    本文介绍了使用 Best Linear Approximation (BLA) 对子空间编码器方法进行初始化的方式，该方式在弱非线性系统中提高了模型质量，并且解决了训练过程中的收敛问题。

    Apr, 2023

  • 学习神经状态空间模型：是否需要状态估计器？

    本文对神经状态空间模型的系统识别算法的学习问题进行了深入的研究，探讨了初始状态估计的选择和作用，并在两个系统识别基准测试上进行了大量实验和分析，表明高级初始状态估计技术对于某些类型的动态系统需要实现高性能，而对于渐近稳定的系统，则基本过程，如零或随机初始化，已经具有竞争性能。

    Jun, 2022

  • 鲁棒概率性随机子空间辨识方法

    利用概率推断的方法提出新的随机子空间辨识算法（Prob-SSI）和鲁棒的 Prob-SSI 算法，以解决实际操作中因异常数据而影响系统参数估计的问题，并验证其性能超过传统的 SSI 算法。

    May, 2023

  • 结构化状态空间模型是深层 Wiener 模型

    为了促进机器学习和系统识别社区之间的有效交流，本文旨在以系统辨识友好的方式介绍结构化状态空间模型（SSMs）。SSMs 近期在机器学习社区受到欢迎，因为它们可以高效可扩展地训练以解决极长序列分类和回归问题。此外，SSMs 还被视为学习深威纳模型的有效方法，从而将 SSMs 作为一种常用于系统辨识的模型类进行扩展。最后，本文总结了该主题的最新贡献并强调了未来的研究方向。

    Dec, 2023

  • 学习稳定和鲁棒的线性参数时变状态空间模型

    该论文介绍了两种线性参数时变状态空间模型的直接参数化方法，确保模型稳定、鲁棒，并且可以使用无约束优化进行模型训练。通过 LPV 识别问题的实例，验证了该方法的有效性。

    Apr, 2023

  • 高维单指数模型学习

    提出了三种计算和统计效率高的算法来推断高维 Single Index Models (SIMs)，相对于广义线性模型（GLM）和低维 SIM 方法，实验证明了我们的方法具有更好的学习性能和优越性。

    Jun, 2015