Jan, 2023

针对传感器数据应用的显式上下文集成循环神经网络

PDF
TL;DR本文介绍了一种上下文集成循环神经网络 (Context Integrated RNN， CiRNN) 模型，用于处理含有传感器数据和上下文信息的数据，在引擎健康预测领域的实验中表现出比现有模型 39% 和 87% 的示范性改进，特别是在使用非对称分数函数作为测量指标时。
context integrated rnnsensor datapredictive modelingcontextual featuresengine health prognostics
发现论文，激发创造
  • 使用递归神经网络进行推荐的上下文序列建模

    我们提出了一种新的上下文递归神经网络，可以在输入和输出层中考虑相关信息，将上下文嵌入与项目嵌入相结合，并在模型动态性中将隐藏单元转换参数化为上下文信息的函数，从而在下一事件预测任务上显示出良好的提高效果。

    Jun, 2017

  • 基于循环神经网络的上下文感知自然语言生成

    本文研究了利用连续的语义表征通过递归神经网络生成特定情境下的自然语言的方法，提出了两种新方法，其中包含了注意力机制以解决因长序列引起的长程依赖问题，并在用户评论数据上进行了实验，展示了该方法生成的虚假评论非常自然，并且大部分能够躲过现有的虚假评论检测算法。

    Nov, 2016

  • 上下文感知的顺序推荐

    该研究提出了一种名为 CA-RNN 的上下文感知循环神经网络模型，用于建模用户的行为模式，其采用自适应的上下文特定输入矩阵和上下文特定转移矩阵来捕捉事件发生时的外部环境和历史时序之间的转换，实验证明该模型在 Taobao 数据集和 Movielens-1M 数据集上比现有的序列推荐和上下文感知推荐方法都有明显改进。

    Sep, 2016

  • 循环网络在情感分析中实现上下文处理的方式

    本文研究神经网络的上下文处理、不同类型的循环神经网络所产生的上下文效应，以及如何应用这些效应提高基线模型的性能。

    Apr, 2020

  • 利用循环神经网络的对话上下文语言模型

    本文提出了一种将对话级别的语篇信息融入语言模型中的上下文语言模型，该模型在 Switchboard Dialog Act Corpus 上表现出比传统单轮 RNN 语言模型更好的性能。

    Jan, 2017

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 卷积分层递归神经网络学习上下文依赖关系

    该研究提出了一种基于深度卷积神经网络和分层递归神经网络的图像分类模型，以更好地编码图像区域之间的空间和比例依赖关系，从而取得了在四个具有挑战性的目标 / 场景图像分类基准测试中最先进的结果。

    Sep, 2015

  • ContextNet：利用全局上下文提升卷积神经网络在自动语音识别中的表现

    本文报道了一种新的 CNN-RNN-transducer 结构 ContextNet，它包括一个全卷积编码器，通过添加 squeeze-and-excitation 模块将全局上下文信息嵌入到卷积层中，以及一个简单的缩放方法，实现了计算和准确度之间的良好折衷，这种模型在多个基准测试集上显著优于其他模型。

    May, 2020

  • 使用连续循环单元对不规则时间序列进行建模

    本研究提出了一种称为连续循环单元 (CRUs) 的神经网络架构，它可以自然地处理不规则的时间间隔观察数据。研究发现，这种架构具有时间上的连续性和优化集成嘈杂观察的门控机制。我们在挑战性数据集上对 CRU 进行了实证研究，并发现它比基于神经微分方程的方法更好地插值了不规则时间序列。

    Nov, 2021

  • 具多层上下文的带注意力机制的 RNN 用于场景标注

    探索多级上下文循环神经网络的多种上下文提示，将其结合到分级卷积神经网络中，提供丰富的空间和语义信息，并使用注意力模型来有效地合并多个级别，以实现在图像标签方面的最新结果。

    Jul, 2016