Jul, 2019

通过张量秩正则化从不完整时间序列数据中学习表示

PDF
TL;DR本文介绍了一种基于张量秩最小化的正则化方法，以处理自然发生的多模态数据中的不完美性，并通过实验在多模态语言数据上实现了良好的结果。
multimodal language processingregularizationtensor rank minimizationcorrelationsimperfect data
发现论文，激发创造
  • 多模态低秩融合与模态特定因子的高效实现

    本文介绍了一种使用低秩张量完成多模态数据融合的新方法，并在多模态情感分析、演讲者特征和情感识别等多个任务中取得了有竞争力的结果且极大地减少了计算复杂度。

    May, 2018

  • 多模态范式的归因规范化

    通过提出新的正则化项，促进多模态模型在决策过程中有效利用所有模态的信息，以缓解单模态主导性问题并提高多模态机器学习系统的性能。

    Apr, 2024

  • 从时间数据中进行深度多模态表征学习

    本文介绍了一种名为 Correlational Recurrent Neural Network（CorrRNN）的神经网络模型，该模型将多种时间序列数据进行合并，通过同时学习联合表示和模态之间的时间依赖关系来优化预测性能，并使用多个损失项和注意力模型来调整模态之间的贡献。实验证明了该模型在各种数据集上表现优越。

    Apr, 2017

  • 学习高斯混合表示用于张量时间序列预测

    本文研究了高维空间内的张量时间序列数据，开发了一种新的预测框架 GMRL，能够更好地管理时间、位置和来源变量，并已在实际数据集上得到了验证

    Jun, 2023

  • 利用非规则多模态电子病历建模改进医疗预测

    本论文通过手工建模和学习内插嵌入，采用分离机制建模不规则的时间序列；采用时间注意力机制，将临床记录的一系列表示为多元不规则时间序列，并采用交织注意机制跨时间步骤进行多模态融合，以整合多模态表示。结果表明，我们提出的方法在单一模态和多模态情景下都优于现有方法，说明了我们方法的有效性和模拟不规则性的价值。

    Oct, 2022

  • 流式大数据矩阵和张量的子空间学习和插补

    论文提出了一种基于 rank minimization 算法的在线优化方法，通过追踪低维度子空间、揭示潜在结构以及使用核范数正则化来实现低维矩阵数据和低秩张量数据的缺失值插补，模拟测试显示该方法在数据明显含噪、不完整的情况下表现突出。

    Apr, 2014

  • 从多模态时间序列数据中学习序列潜变量模型

    本论文提出了一种自监督生成建模框架，用于联合学习多模态数据的概率潜在状态表示和相应的动态，并且该方法在机器人学方面有显著的预测和表示质量改进。

    Apr, 2022

  • 时间序列表示模型

    我们提出了一种基于内省的时间序列分析的新架构概念，其中关键是自监督预训练的时间序列表示模型（TSRM），可以在自动化和资源高效的方式下进行定制和微调，以实现特定任务，如预测和插补。我们的架构通过灵活和分层的表示学习过程对抗缺失数据和异常值，能够捕捉和学习给定时间序列类别（如心率数据）的结构、语义和关键模式的本地和全局特征。与现有方法相比，我们的架构提高了插补和预测误差，分别高达 90.34％和 71.54％，同时减少了可训练参数高达 92.43％。

    May, 2024

  • 基于低秩融合的多模态序列变换器

    通过对感官信号和情感意图进行建模并使用多种传感器信号进行低秩多模态融合和转换，我们提出了基于 transformer 的跨模态融合架构，该架构允许表示近似的乘性潜在信号交互，并且具有更少的模型参数、更快的训练速度和与其他大型融合模型相当的情感识别性能。

    Jul, 2020

  • 多维时序数据无监督可扩展表征学习

    通过一种无监督方法，提出了在长度和标签稀疏性方面都很具有可扩展性的编码器，通过时间负采样的三元损失组合将其与基于因果膨胀卷积的编码器结合，用于生成变长时间序列的通用表示，表现出了良好的质量、可转移性和实用性。

    Jan, 2019