基于循环神经网络的临床时间序列分析迁移学习

KDDJul, 2018

基于循环神经网络的临床时间序列分析迁移学习

Transfer Learning for Clinical Time Series Analysis using Recurrent Neural Networks

Priyanka Gupta, Pankaj Malhotra, Lovekesh Vig, Gautam Shroff

TL;DR探究深度循环神经网络的迁移学习，使用预训练的 RNN 对多变量临床时间序列进行建模，提取通用特征来建立新的任务分类器。结果表明，相比于特定任务的 RNN，使用预训练模型的特征更加稳健且通用，性能更好。

Abstract

deep neural networks have shown promising results for various clinical prediction tasks such as diagnosis, mortality prediction, predicting duration of stay in hospital, etc. However, training deep networks -- such as those based on Recurrent Neural Networks (RNNs) -- requires large la

deep neural networks clinical prediction transfer learning multivariate clinical time series pre-trained rnn

发现论文，激发创造

使用 LSTM 循环神经网络进行诊断学习

本文探讨采用长短期记忆（LSTM）深度神经网络来挖掘多元时间序列的临床医疗数据，特别是在重症监护病房（ICU）中的应用，通过将 128 个诊断结果与 13 个临床测试指标进行分类建模，获得了优于其他多层感知机的分类效果。

Nov, 2015

利用循环神经网络结合静态与动态信息进行临床事件预测

文章介绍了基于门控循环神经网络的预测模型，在临床数据中结合静态信息和动态信息用于预测肾移植病人的未来事件，结果表明该模型在该任务中表现最佳。

Feb, 2016

使用暗知识传递的循环神经网络训练

使用深度神经网络作为教师模型，通过知识迁移学习的方法，成功地训练了长短时记忆神经网络，以在自动语音识别任务中表现良好。

May, 2015

循环神经网络在序列学习中的关键评估

本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

May, 2015

使用注意力模型进行临床时间序列分析

该论文针对临床时间序列数据，采用注意力机制代替循环神经网络，提出了一种新的架构 SAnD（Simply Attend and Diagnose），并证明该方法在多项诊断任务中表现优异，胜过 LSTM 模型和基于手工特征的经典基线模型。

Nov, 2017

基于循环神经网络的关系分类

本文提出了一种基于循环神经网络的简单框架，并将其与基于卷积神经网络的模型进行比较。该模型在处理句子关系分类问题时具有学习长距离依赖关系模式的优点，并在使用 MIMLRE 数据集的实验中表现出优异的性能。

Aug, 2015

循环神经网络的最近进展

本文对循环神经网络的基本原理、最新进展和研究挑战进行了说明，介绍了针对学习长期依赖问题的新进展，适合该领域的新手和专业人士。

Dec, 2017

TimeNet: 面向时序分类的预训练深度循环神经网络

TimeNet 是一个基于循环神经网络的深度非监督学习模型，使用序列到序列模型从多个时间序列中提取特征，可用作时间序列的通用特征提取器，并且通过实验证明，使用 TimeNet 特征提取器训练的分类器能够显著提高分类效果。

Jun, 2017

深度循环神经网络语音识别

本文研究了将深度网络的多层表示与强大的 RNN 模型相结合的模型 - 深度递归神经网络，通过合适的正则化和端到端的训练方法，该模型在 TIMIT 语音识别基准测试中获得了最佳记录得分 17.7％。

Mar, 2013

使用递归神经网络对临床时间序列中的缺失数据进行建模

本文采用简单的策略解决临床时间序列中缺失数据的问题，通过将缺失数据视为特征，并利用简单的二进制指示器处理，实现了儿科重症监护病房（PICU）临床时间序列的多标签诊断分类预测。同时，我们也展示了基于缺失数据模式的训练模型不仅能刻画缺失数据信号，同时显示该信号的预测性可以超过部分疾病的测试结果本身。

Jun, 2016