Jun, 2024

多路径多切片 PHATE: 通过训练可视化 RNN 的隐藏动态

PDF
TL;DR多维多切片 PHATE（MM-PHATE）是一种新颖的方法，用于可视化循环神经网络（RNN）的隐藏状态的演化过程，能独特保持隐藏表示的社区结构，并识别训练期间的信息处理和压缩阶段。
recurrent neural networksevolution processhidden statesmm-phateinformation processing
发现论文，激发创造
  • LSTMVis: 递归神经网络隐藏状态动态的可视化分析工具

    本文介绍了 LSTMVIS，一种用于理解循环神经网络（尤其是长短时记忆网络）隐藏状态动态的可视化分析工具，可通过结构性注释和大数据集对状态变化进行匹配和对齐，来分析论述特定的隐藏状态特性和模式。

    Jun, 2016

  • 理解循环神经网络中的隐藏记忆

    本文提出了一种基于可视化分析的方法，通过理解和比较用于自然语言处理的循环神经网络模型，包括基于各个隐藏状态单元对输入文本的响应和相似性进行 聚类和可视化，以及通过基于聚合信息的图标序列可视化分析 RNN 的隐藏状态的行为，实验结果表明该方法在领域专家的案例研究和评论中具有可用性和有效性。

    Oct, 2017

  • 多分辨率物理信息循环神经网络：配方及应用于肌肉骨骼系统

    提出了一种多分辨率物理信息循环神经网络 (MR PI-RNN)，用于同时预测肌肉骨骼 (MSK) 运动和识别 MSK 系统参数，该方法利用快速小波变换将混合频率的表面肌电图 (sEMG) 和关节运动信号分解为嵌套的多分辨率信号，并且采用分层训练的方法设计了一个 GRU 预测模型，并通过逐步训练的方式获得全尺寸训练结果，在保持动态平衡的同时，提高了肘部屈伸运动的运动预测精度。

    May, 2023

  • 分层多尺度循环神经网络

    本文提出了一种多尺度递归神经网络，称为分层多尺度递归神经网络，通过使用新的更新机制，在不使用显式边界信息的情况下捕获序列中的潜在分层结构，从而解决递归神经网络中的层次和时间表示问题，并在字符级别语言建模和手写序列建模上进行评估。

    Sep, 2016

  • 使用循环神经模块学习分层信息流

    ThalNet 是一个深度学习模型，通过 Thalamus 受到新皮质通讯的启发，由循环神经网络模块组成，并通过路由中心发送特征，赋予模块在多个时间步骤上分享特征的灵活性。我们观察到通用架构，如前馈神经网络和跳跃连接，在我们的架构中成为特例，同时学习了新的文本压缩任务的连接模式。我们的模型在几个顺序基准测试上优于标准循环神经网络。

    Jun, 2017

  • 多维递归神经网络

    本文介绍了多维循环神经网络 (MDRNNs) 的概念，扩展了循环神经网络 (RNNs) 在视觉、视频处理、医疗影像等领域的应用，同时避免了其它多维模型所面临的缩放问题。笔者提供了两个图像分割任务的实验结果。

    May, 2007

  • 循环高速公路网络

    本文提出了一种基于 Gersgorin 圆定理的递归网络理论分析方法，从而引入 Recurrent Highway Networks 的新型结构以提高深度递归神经网络的研究难度并展示其在语言建模上的高效性和有效性。

    Jul, 2016

  • RetainVis: 电子病历可解释互动循环神经网络的可视化分析

    设计了 RetainVis 工具来提高基于可解释和可交互 Recurrent Neural Networks 的电子病历风险预测模型的可解释性与交互性，通过对心力衰竭和白内障症状的患者的 EMR 数据进行的实验，研究证明了该工具的有效性。

    May, 2018

  • 利用隐马尔科夫模型提高循环神经网络的可解释性

    通过将循环神经网络与隐马尔科夫模型相结合，旨在增加其可解释性，发现 LSTM 和 HMM 可以学习互补的文本特征信息。

    Jun, 2016

  • 使用并行解释模型增强神经网络配置在细胞退化检测中的透明度

    通过使用平行模型研究循环神经网络的内部运行机制，我们揭示了循环神经网络（RNN）中存在的性能限制，并给出对未来设计 RNN 和类似类型神经网络有用的洞察。

    Apr, 2024