SOM-VAE: 时间序列可解释离散表示学习

ICLRJun, 2018

SOM-VAE: 时间序列可解释离散表示学习

SOM-VAE: Interpretable Discrete Representation Learning on Time Series

Vincent Fortuin, Matthias Hüser, Francesco Locatello, Heiko Strathmann, Gunnar Rätsch

TL;DR提出了一种针对高维时间序列数据的离散表征学习框架，通过整合可解释性离散降维和深度生成建模方法，得到在可解释性和聚类性能方面优异的平滑嵌入表征，基于自组织映射算法和马尔科夫模型实现了离散表征的概率化解释和进一步优化，实验结果显示其表现比竞争方法更好。

Abstract

high-dimensional time series are common in many domains. Since human cognition is not optimized to work well in high-dimensional spaces, these areas could benefit from interpretable low-dimensional representations

high-dimensional time series interpretable low-dimensional representations discrete representation learning probabilistic interpretation clustering performance

发现论文，激发创造

多维时序数据无监督可扩展表征学习

通过一种无监督方法，提出了在长度和标签稀疏性方面都很具有可扩展性的编码器，通过时间负采样的三元损失组合将其与基于因果膨胀卷积的编码器结合，用于生成变长时间序列的通用表示，表现出了良好的质量、可转移性和实用性。

Jan, 2019

可解释的时间序列神经表示用于分类目的

该研究提出了一种满足可解释性要求的无监督神经表示方法，该方法在分类任务中比其他可解释方法表现更好，并且在多个数据集上得到了验证。

Oct, 2023

无监督学习序列数据的分离和可解释表示

本文提出一种分解的分层变分自动编码器，能够在无监督的情况下从序列数据中学习分离和可解释的表征。该模型基于多尺度信息的分层结构，实现了针对不同潜变量集合的序列依赖先验和序列无关先验。通过在两个语音语料库上的实验，表明该模型能够通过操纵不同的潜变量集合来转换说话人或语言内容，并在说话人验证和自动语音识别任务中优于基线模型。

Sep, 2017

GP-VAE：深度概率时间序列插值

本文提出一种新的深度顺序潜变量模型，通过高斯过程在时间上平滑演化的抽象低维表示来实现缺失数据的非线性降维和数据插值，旨在解决在医疗和金融等领域中常见的缺失数据问题。我们的方法优于传统的和基于深度学习的数据插值方法，并提供可解释的不确定性估计。

Jul, 2019

TimeVAE: 多元时间序列生成的变分自编码器

本文提出了一种基于变分自动编码器的新型体系结构，可用于进行时序数据的合成生成，具有可解释性，能够编码领域知识，训练时间较短。实验表明，该方法在数据相似度和预测性方面均表现优异，依然能够准确地呈现原始数据的时态属性，并且对于下一步预测具有显著的改善效果。最后，该模型可以将特定领域的时间模式融入到生成模型中，提供可解释性的输出。

Nov, 2021

自然数据中的时态稀疏编码非线性解缠

该论文介绍了一种基于 SlowVAE 的非监督学习模型，可以在自然视频中实现底层变化因素的非线性分离，并证明该模型在多个测试数据集上都超过了目前的最先进水平，并成功应用于其他具有自然动态的视频数据集。

Jul, 2020

时间序列的自学习特征提取

时间序列上的自我监督学习能够使得类似于自然语言处理和计算机视觉领域中最近释放的潜力发挥出来。通过使用基于 data2vec 自蒸馏框架的一个概念上简单而强大的非对比度方法，我们的方法展示了在分类和预测等下游任务上与 UCR、UEA 和 ETT 以及 Electricity 数据集上的最先进的自我监督学习方法相比的竞争力。

Nov, 2023

基于预测性变分自编码器的时间序列数据鲁棒表示学习

利用预测时间下一节点以及基于时间平滑性的模型选择度量，我们提出了一种能够减轻 VAE 学习虚假特征，并能在合成数据集中准确恢复潜在因素的 VAE 架构。

Dec, 2023

基于单调变分不等式的非线性时序嵌入

通过无监督学习非线性时间序列的低维表示方法，该方法基于每个序列服从自身的自回归模型并通过低秩约束与其他序列相关联的假设，可以用于聚类和分类等机器学习任务，并且在真实时间序列数据上展示了有竞争力的性能和符号文本建模和 RNA 序列聚类的有效性。

Jun, 2024

使用 C-VAEs 重构时空数据

本文提出在烧毁的森林火灾数据集上使用条件变分自编码器（C-VAE）模型来生成连续的、平滑的、现实的移动区域代表，与手动注释的数据结果相比，该方法表现出竞争性的几何相似性度量，在时间保持一致性方面也表现出更好的表现。

Jul, 2023