Nov, 2018

使用张量环压缩循环神经网络以进行动作识别

PDF
TL;DR提出了利用低秩张量环分解重新构建输入到隐藏层变换的紧凑型 LSTM 模型 TR-LSTM，不仅在处理高维输入数据（如视频和文本）方面更具可扩展性和可训练性，而且其良好的稳定性和与其他最先进竞争对手相比的较高性能进一步表明了它在序列数据建模中的潜力。
发现论文，激发创造
  • 基于分块张量分解的简洁循环神经网络学习

    通过使用 Block-Term 张量分解方法，可以降低 RNNs 的参数数量从而提高其训练效率。

    Dec, 2017

  • 使用分层 Tucker 张量分解压缩循环神经网络

    本研究提出使用分层 Tucker 分解压缩循环神经网络，提高了其表示能力且相比于 TT-LSTM、TR-LSTM、BT-LSTM 等现有压缩模型，在不同数据集上同时实现了压缩比和测试准确度的显著提升。

    May, 2020

  • 使用张量列压缩循环神经网络

    本文提出了使用 Tensor Train 格式来表示循环神经网络参数，从而显著降低参数数量的替代型循环神经网络，对比未压缩的循环神经网络在序列分类和序列预测中的表现，结果显示其性能不降反升，同时减小了 40 倍的参数数量。

    May, 2017

  • 用 Tensor Train 递归神经网络进行视频分类

    通过使用 Tensor-Train 分解来分解 RNN 中的高维输入矩阵，尽管架构比其他模型简单得多，但在分类实验中仍能够实现与最先进的模型相媲美的性能，这为建模高维序列数据提供了一种新的基础模块，并打开了从其他领域（如自然语言处理）传输表达和先进模型的多种可能性。

    Jul, 2017

  • 学习紧凑循环神经网络

    本文介绍了一种利用低秩分解和参数共享技术来学习紧凑的循环神经网络（LSTM）的机制，探究了在不损失性能的情况下完善紧凑结构的可能性，并且发现在底层使用结构矩阵，在顶层使用共享低秩因子的混合策略特别有效，在 2000 小时英语语音搜索任务上将标准 LSTM 的参数减少了 75%，仅仅增加了 0.3% 的误差率。

    Apr, 2016

  • 基于压缩的循环神经网络用于高效语言建模

    本文考虑了针对循环神经网络的多种压缩技术，特别关注大词汇量带来的高维输出问题，探讨剪枝、量化和矩阵分解在语言模型中的有效压缩方法，以及大小、适用性和困惑度的取舍，最终提出一种压缩循环神经网络的通用流程，并使用 Penn Treebank 数据集展示了矩阵分解技术在速度和压缩 - 困惑度平衡方面的最佳结果。

    Feb, 2019

  • 压缩循环神经网络的张量分解

    本文通过使用多种张量分解方法对门控循环单元 RNN 进行再参数化，旨在减少参数数量并保持表达能力，研究表明，在序列建模方面，Tensor Train 表现最佳。

    Feb, 2018

  • 针对视频识别的极端紧凑型 RNN，使用完全分解的分层 Tucker 结构

    本文提出了一种具有全分解层级 Tucker 结构的极度紧凑的 RNN 模型，该模型不仅提供了比其他张量分解方法更高的存储成本降低幅度，而且为整个 RNN 模型的综合压缩提供了可能，且在多个视频识别数据集上进行的实验结果表明，该模型具有高度准确性和极高的效率。

    Apr, 2021

  • 利用环结构网络学习高效张量表示

    提出一种称为张量环表示的新型张量分解的网络结构，该结构采用低阶核张量的循环多线性乘积，通过低秩近似的方法来有效地学习张量环表示，可以在计算上更有效地执行基本操作，并且通过与现有的张量列网络相比实验结果表明，该模型更具表达能力和一致性信息。

    May, 2017

  • 循环神经网络压缩及其在嵌入式语音识别 LVCSR 声学建模中的应用

    本研究旨在实现恰当地压缩循环神经网络的目的，并提出了一种同时压缩循环和非循环层权重矩阵的通用压缩技术。通过这种方法，将 LSTM 声学模型减小到原来的三分之一，同时保持准确性可接受。

    Mar, 2016