temporal dependencies | BriefGPT

关键词temporal dependencies

搜索结果 - 89

TimelyGPT: 长时序表示的循环卷积变换器
该研究通过重新审视时间序列变压器并确定先前研究的不足，引入了一种名为 Timely Generative Pre-trained Transformer 的创新架构。该架构通过整合递归注意力和时间卷积模块来有效地捕获长序列中的全局 - 局部
PDF7 months ago
基于注意力机制的时间序列预测的模块化神经网络：可解释性和特征选择
一篇研究时间序列的多变量预测的可解释神经网络模型，通过循环神经网络学习数据的时间依赖性，配合基于注意力的特征选择组件来选择最相关和抑制冗余的特征，通过独立训练选定特征的模块化深度网络，展示特征对结果的影响，从而使模型可解释。实验结果表明，该
PDF7 months ago
EMNLP基于关系时间图神经网络和辅助跨模态交互的对话理解
通过模态特异性的方式，CORECT 有效地捕捉了会话级的跨模态交互和话语级的时间依赖性，以提高情感识别的效果。
PDF8 months ago
自我注意力与时间先验：我们能从时间的箭头中学到更多吗？
我们提出了一种简单而高效的方法，通过在注意力矩阵上直接应用可学习的自适应卷积核，使注意力层能更好地编码这些数据集的短期时间偏差。在实验中，我们选择了使用电子健康记录（EHR）数据集的各种预测任务，因为它们是具有底层长期和短期时间依赖性的绝佳
PDF8 months ago
DyExplainer：可解释的动态图神经网络
使用 DyExplainer 方法解释动态图神经网络，通过稀疏注意机制探索结构关系和时间依赖性，并结合对比学习技术提供先验引导正则化，以实现对模型预测的解释性和预测准确性的显著提升。
PDF8 months ago
EMNLP一个关于复杂时序推理的相对时间预训练故事
本文提出了 RemeMo（相对时间建模）模型，通过建立基于时间轴上事件相对位置的图结构，明确地连接所有具有时间范围的事实，并模拟任意两个句子之间的时间关系，实验结果表明 RemeMo 在多个时间问答数据集上的性能优于基准模型 T5，特别擅长
PDF8 months ago
探索 CLIP 潜空间用于视频异常识别
我们介绍了一种名为 AnomalyCLIP 的新方法，它首次将大语言和视觉（LLV）模型（如 CLIP）与多实例学习相结合，用于联合视频异常检测和分类。我们通过操纵潜在的 CLIP 特征空间来识别正常事件子空间，并有效地学习文本驱动的异常事
PDF9 months ago
KDD通过高效的分层位置表示在个人轨迹中进行预训练的上下文位置嵌入
通过预先训练基于位置的嵌入来提高位置服务的性能，并利用 Geo-Tokenizer 减少训练的位置数量，在考虑位置的时间依赖性的同时，有效地训练分解的位置，从而提供更少的模型参数并改善下游任务的性能。
PDF9 months ago
信息时序中的消息传播：一种序列依赖保留的算法
该论文介绍了通过时间传播信息的算法（MPTT），它有效地结合了长期的时间依赖性，并相对于有状态的解决方案保持更快的训练时间。该算法利用两个内存模块异步管理 RNN 的初始隐藏状态，促进样本之间的无缝信息交流，并允许在整个周期中使用不同的小批
PDF9 months ago
多变量时间序列医疗数据上的有效异常活动检测
多元时间序列数据在智能医疗场景中的异常活动检测具有潜在的准确性，但是异常模式多样且在时间序列中变得难以察觉。为了解决这个问题，我们提出了一种基于残差的异常检测方法 Rs-AD，用于有效的表示学习和异常活动检测。我们在真实步态数据集上评估我们
PDF10 months ago
多尺度变压器金字塔网络用于多变量时间序列预测
使用多尺度 Transformer 的多变量时间序列预测中，引入了不变量嵌入技术用于捕捉短期时间依赖并将数据投射到高维空间，同时保留时间步和变量维度。进一步，提出了一种新颖的 Multi-scale Transformer 金字塔网络 (M
PDF10 months ago
多模空时数据建模的简明框架
我们提出了一个简单的多模式时空数据建模框架，通过设计一个跨模式空间关系学习组件来自适应地建立多个模式之间的连接，并沿着学到的连接传播信息。同时，我们使用多层感知机来捕捉时态依赖和通道相关性，实验证明这一模型在三个真实数据集上始终优于基准模型
PDF10 months ago
PINNsFormer：基于 Transformer 的物理信息神经网络框架
提出了一种名为 PINNsFormer 的基于 Transformer 的新型框架，通过在 Transformer 模型中利用多头注意力机制捕捉时间依赖关系，准确地近似了偏微分方程（PDE）的解。PINNsFormer 不仅适应了输入向量到
PDFa year ago
MPR-Net：多尺度模式再现引导的时间序列普适可解释预测
该研究提出了一种时序预测模型，MPR-Net，通过卷积和反卷积操作，适应性地分解多尺度历史序列，并基于模式复制的先前知识构建了模式扩展预测方法，由于利用了时间依赖性，MPR-Net 不仅实现了线性时间复杂度，而且使预测过程可解释。该模型在短
PDFa year ago
基于动画的视频压缩的预测编码
基于图像动画的视频压缩方法，通过使用预测编码方案和图像动画作为预测器，以及针对实际目标帧的残差编码，有效地提高压缩率，与 HEVC 和 VVC 相比可获得超过 70% 和 30% 的比特率增益。
PDFa year ago
GD-VDM: 基于生成深度的扩散视频生成方法
本文提出了一种新的扩散模型 GD-VDM 用于视频生成，通过在生成深度视频和扩散 Vid2Vid 模型之间的两个阶段进行，能够生成更加多样化、复杂的场景。
PDFa year ago
GAT-GAN：一种基于图注意力机制的时间序列生成对抗网络
本文提出了一种基于图注意力机制的生成对抗网络（GAT-GAN），使用这种方法可以生成具有高保真度的长时间序列数据，可以通过使用 FTD 评分标准来标准化地评估生成数据的质量和多样性，并且评估结果表明，相比于现有的基于 Frechet Tra
PDFa year ago
多元时序预测的联合时频域变换器
该研究提出了一种联合时频域变压器模型 (JTFT) 进行多元预测的方法，其中使用少量可学习的频率，利用时间序列在频域中的稀疏性来有效提取时间依赖关系，并且 JTFT 通过在时域中直接编码最近的数据点来增强局部关系的学习能力和减轻不稳定性的不
PDFa year ago
使用 Transformer 的视频传播经验研究
本研究介绍了 Video Diffusion Transformer（VDT），它首次在基于扩散的视频生成中提出了 Transformer 的使用，通过模块化的时间和空间注意机制实现了 Transformer 块，并能够通过简单的令牌空间串
PDFa year ago
室内 WiFi 系统设备无人壁穿透式存在检测基于增强注意力深度学习
本文提出了一种使用 Wi-Fi 信号中的信道状态信息进行人体存在检测的深度学习模型，并结合静态特征以提高静态状态下检测的准确性，在一系列的评估中展示出比其他模型更高的准确率且更具稳定性。
PDFa year ago