Oct, 2023

RIR-SF：基于房间冲激响应的多通道多说话人 ASR 的空间特征

PDF
TL;DR通过将重叠的语音信号与目标讲话者传输到麦克风阵列的房间冲激响应（RIR）进行卷积，引入了一种创新方法，得到了一种称为 RIR-SF 的新型空间特征。理论分析和实验结果均证实了该方法相对于现有方法的优越性，通过在多通道多讲话者 ASR 系统中实现 CER 的显著 21.3％的相对减小来表明了 RIR-SF 的超越性，重要的是，这种新特征在强混响环境下表现出稳健性，超越了以往方法的限制。
multi-channel multi-talker automatic speech recognitionreverberation effectsconvolutionroom impulse responsespatial feature
发现论文，激发创造
  • 针对语音识别的房间脉冲响应估计的改进

    本研究提出了一种基于生成敌对网络（GAN）的结构，通过编码反射语音中的 RIR 特征并构建 RIR，使用新颖的能量衰减缓解损失来优化模型，从而提高自动语音识别（ASR）系统的性能，实验证明该模型在声学基准测试和 ASR 评估任务中都比现有模型表现更好。

    Nov, 2022

  • RevRIR: 利用对比学习进行联合混响语音和室内冲激响应嵌入，应用于房间形状分类

    该论文研究了室内指纹识别，通过分析音频记录以确定录制音频时所在房间的音量和形状。提出了一种双编码器架构，可直接从语音中估算房间参数，通过对比损失函数将语音和声学响应联合嵌入，通过在预训练和微调阶段的训练实现具体的分类任务，并在测试阶段使用嵌入来进行房间形状分类。该方案在模拟声学环境中进行了广泛评估。

    Jun, 2024

  • AV-RIR：音频 - 视觉房间冲激响应估计

    准确估计室内脉冲响应（Room Impulse Response，RIR）对于语音处理和增强实境 / 虚境应用非常重要。本文提出了 AV-RIR，一种新颖的多模态多任务学习方法，能够准确从给定的回声语音信号和对应环境的视觉线索中估计 RIR。AV-RIR 基于一种能有效捕捉环境几何和材质特性的新型神经编解码器架构，通过多任务学习将语音降噪作为辅助任务进行求解。我们还提出了 Geo-Mat 特征，将材料信息加入到视觉线索中，并通过图像 - RIR 检索改进了所估计的 RIR 中的后期混响成分。实证结果表明，AV-RIR 在 RIR 估计的各种声学度量标准上优于先前的仅音频和仅视觉方法，改进幅度在 36% 至 63% 之间。此外，它在人类评估中也获得了更高的偏好评分。作为一个附带效果，AV-RIR 的去混响语音在各种口语处理任务中显示出竞争性能，并在实际 AVSpeech 数据集中超过了混响时间误差评分。可以在此 https URL 找到合成的回声语音和增强后的语音的定性示例。

    Nov, 2023

  • 随地聆听

    通过 DiffRIR 的不同 iable RIR 渲染框架，使用场景的参数化模型，合成具有各种声音特征的新的听觉体验。

    Jun, 2024

  • 混响作为语音分离监督

    本文提出了一种新的无监督算法损失函数，称为混响作为监督（RAS），使用两个信道的混合信号，训练神经网络以分离源，并通过维纳滤波器来评估所分离出的混响信号。实验结果表明，相对于只使用已标注数据和使用完整数据的有监督算法，本方法在只有 5% 到 10% 的标注数据时可以获得可观的性能优越性。

    Nov, 2022

  • 一个真实房间冲激响应数据集的构建和评估

    该论文提出了一个真实空间脉冲响应、背景噪声和重传音频数据的数据集，并在两组自动语音识别实验中验证了其应用价值，结果表明精心挑选的有限数量的真实空间脉冲响应与大量人工生成的响应相比，能够取得同等优秀的 ASR 结果；同时，该论文介绍了脉冲响应数据的处理过程和音频数据增广技术，并开放了这个数据集的非限制性许可证。

    Nov, 2018

  • Image2Reverb: 跨模态混响脉冲响应合成

    通过使用神经网络从单幅图像生成音响脉冲响应，可以模拟图片所示的空间中的混响特性，为测量空间的声学特征提供了一个更加便捷的方法。

    Mar, 2021

  • 计算最佳麦克风位置以提高语音识别

    采用蒙特卡洛技术，基于音频房间的脉冲响应，对麦克风的位置进行优化，以获得最佳性能的通用自动语音识别 (general purpose automatic speech recognition， gp-asr)。

    Mar, 2022

  • 神经声学上下文场：利用神经场实现逼真的房间冲激响应

    提出了一种新颖的神经音频环境场方法（NACF），通过利用多个声学环境上下文参数化音频场景，考虑了声学属性，实验结果表明 NACF 优于现有基于场的方法。

    Sep, 2023

  • 协作多智能体声学测量

    通过机器人之间的合作，有效移动并进行发射 / 接收扫频信号，以测量环境的声学特性并减小预测误差，我们提出了解决多智能体协同环境声学测量问题的首个问题定义和解决方案。

    Oct, 2023