Sep, 2017

通过展开迭代阈值法进行深度循环 NMF 语音分离

PDF
TL;DR本文提出了一种新颖的循环神经网络架构，用于语音分离，并通过展开顺序迭代软阈值算法（ISTA）迭代来构建此网络结构，解决稀疏非负矩阵分解（NMF）的优化问题。该模型具有解释性好、训练速度快、泛化性能强等特点，相比当前稀疏 NMF 和 LSTM 网络，在有限的训练数据情况下，表现出更强的推广和分离性能。
recurrent neural networkspeech separationsparse nonnegative matrix factorizationdeep architecturegeneralization
发现论文，激发创造
  • 一种神经网络替代非负音频模型的方法

    本文介绍了一种神经网络，可以代替非负矩阵分解（NMF），并进一步展示如何用它实现监督源分离。由于这种方法的可伸缩性，我们展示了如何实现比 NMF 方法更好的源分离性能，以及提出了多种可用于进一步提高性能的衍生结构。

    Sep, 2016

  • 用于源分离的卷积音频模型的神经网络替代方案

    本文提出了一种卷积自编码器模型来对频谱图进行分解，并使用循环神经网络进行编码，实验表明这种卷积式结构在分离语音混合方面具有显著的改进。

    Sep, 2017

  • 输入引导的多解构单重建神经网络模型用于矩阵分解

    基于非负矩阵分解（NMF）概念的 IG-MDSR-NMF 和 IG-MDSR-RNMF 模型，通过发现数据的低秩近似，处理高维数据，并确保模型的非负性约束。与其他九种降维算法相比，两个模型在五个常用数据集上表现出明显的优越性，通过保证数据的局部结构等方面验证了低维嵌入与原始数据的对比，同时还呈现了计算复杂性和收敛性分析，从而证明了这些模型的优势。

    May, 2024

  • 使用非负矩阵分解的有监督和无监督语音增强

    本文提出了一种基于非负矩阵分解的贝叶斯监督算法，通过使用 HMM 和在线学习模型解决了模型训练时的匹配问题，并在实验中得出该方法比竞争方法表现更优的结论。

    Sep, 2017

  • 联合优化掩码和深度循环神经网络进行单声源分离

    该研究探索了使用掩蔽函数和深度递归神经网络进行单声道源分离任务（包括单声道语音分离，单声道歌唱声分离和语音去噪）的联合优化。与现有模型相比，我们的方法在评估数据集中的任务中表现良好，并实现了较大的音频性能提升。

    Feb, 2015

  • 从在线非负矩阵分解中派生的 Hebbian / Anti-Hebbian 网络可以聚类和发现稀疏特征

    研究单层神经元网络如何执行在线对称非负矩阵分解（SNMF）的假设，通过导出基于 SNMF 成本函数的在线算法，可以实现具有局部学习规则的生物学上可行的网络。该算法具有软聚类和稀疏特征发现能力，是一个阶段性的研究，可以促进大规模神经电路模拟和生物启发式人工智能。

    Mar, 2015

  • 重新思考隐式神经表示的非负矩阵分解

    非负矩阵分解 (Non-negative Matrix Factorization, NMF) 是一种强大的用于分析规则采样数据的技术，本文将 NMF 表述为连续函数的形式，并展示 NMF 可以扩展到更多不需要规则采样的信号类别。

    Apr, 2024

  • 深度展开：基于模型的启发式深度架构生成

    本文介绍如何在深度神经网络中引入基于模型的方法以及相关推理算法，并展示如何将传统的网络视为马尔科夫随机场的均场推理，在此基础上实现非负矩阵分解，得到一种新类型的深度神经网络以及有效的训练方法。通过语音增强实验得到了与传统神经网络相似的结果，但参数数量却大大减少。

    Sep, 2014

  • 对比深度非负矩阵因式分解在社区检测中的应用

    提出了一种名为对比深层非负矩阵分解 (CDNMF) 的新型社区检测算法，通过加深非负矩阵分解来提取信息，创造性地将网络拓扑和节点属性构建为两个对比视图，并利用去偏差负采样层学习社区级别的节点相似性，提高模型对社区检测的适应性，实验证明，该模型在三个公开真实图数据集上取得了比现有方法更好的结果。

    Nov, 2023

  • 使用噪声对比估计学习神经跨维度随机场语言模型

    本文提出了几种技术来提高神经随机场语言模型 (TRF LMs) 的训练效率和性能。这些技术包括参数估计和模型构建等，采用这些技术可以成功地、高效地训练神经 TRF LMs，并且在强 LSTM LM 基线的基础上将 WER 相对降低了 4.7% 左右。

    Oct, 2017