提出了一种新的混合注意力编码器 - 解码器（HAED）语音识别模型，通过分离声学模型和语言模型，以保留传统混合自动语音识别系统的模块化，实现了对传统基于文本的语言模型自适应技术的使用，从而在相对于纯 AED 模型在领域外文本数据进行语言模型自适应时实现了 21% 的词错误率（WER）改进，并且在一般测试集上只有微小的词错误率（WER）退化。

Sep, 2023

本文提出了一种基于注意力机制和编码器 - 解码器注意力进行实时推理的注意力策略，并在 en -> {de, es} 上进行了测试，结果表明与现有技术相比，该策略在计算感知延迟方面的性能要好得多。

Dec, 2022

通过结合 Transducer 和基于 Attention 的编码器 - 解码器 (AED) 框架，我们提出了一种新的 TAED 框架，它既具有非单调序列到序列学习的优势，又保持了 Transducer 的流式属性，通过在同一个语音编码器上共享模型来实现。在实验中，TAED 在离线 ASR 和 ST 任务中优于 Transducer，在流式任务中，TAED 在 ASR 任务和一个 ST 方向上表现优足以超越 Transducer。

May, 2023

通过机器学习方法，本研究探索了预测大脑灰质三维图像中听力损失阈值的方法。我们采用了两个阶段的解决方案，第一阶段使用 3D CNN 模型将高维输入转换为潜空间，并将其解码为原始图像以表示富特征空间的输入。在第二阶段，我们利用该模型将输入转换为富特征，并使用这些特征来训练标准机器学习模型以预测听阈。我们在第一阶段尝试了自编码器和变分自编码器进行维度降低，并探索了随机森林、XGBoost 和多层感知机用于回归阈值。我们将给定数据集分为训练集和测试集，在测试集上分别得到了 PT500 和 PT4000 的 8.80 范围和 22.57 范围。我们的方法利用 VAEs 的独特能力来捕捉高维神经影像数据中的复杂非线性关系。我们使用各种指标对模型进行了严格评估，重点关注均方根误差（RMSE）。结果突显了多层神经网络模型的功效，它在准确性方面优于其他技术。本项目推动了数据挖掘在医学诊断中的应用，并通过创新的机器学习框架增进了我们对与年龄相关的听力损失的理解。

Apr, 2024

本文采用注意力机制实现深度说话人嵌入，将注意力模型作为帧选择器，计算每个帧级特征向量的注意力权重来产生说话人嵌入模型的汇聚层中的语音表征等内容，并在 NIST 演讲者识别评估 (SRE) 任务中进行 9.0％ EER 降低和 3.8％min_Cprimary 降低的实验，同时，还阐述了在深度说话人嵌入和 i 向量系统中结合 DNN 软语音活动检测 (VAD) 与注意力机制，将显著降低 minCprimary。

Sep, 2018

本文提出一种使用编码器 - 解码器架构的音频标题系统，并引入自上游音频相关任务或大规模领域内数据集的转移学习来缓解数据稀缺性带来的问题。通过强化学习将评估指标纳入模型优化中，可以解决由 “教师强制” 训练策略引起的 “曝光偏差” 和评估指标与损失函数之间的不匹配问题。这种方法在 DCASE 2021 Task 6 中排名第三，并进行了消融研究来研究所提出系统中的每个要素对最终性能的贡献。结果表明，提出的技术显着提高了评估指标的得分，但强化学习可能对生成的标题质量产生不利影响。

Aug, 2021

本文提出一种利用自注意机制实现正交频分复用波形下行链路信道估计的新型混合编码器 - 解码器结构（称为 HA02），利用 3GPP 信道模型进行模拟，结果显示其在信道估计方面表现更优秀。

Apr, 2022

本研究提出了一种基于改进的注意力机制加上位置感知的模型，解决了长输入音频识别中的问题并且有效降低了音素错误率。

Jun, 2015

本研究基于博弈理论提出了一种新的方法（SHAP），扩展了已有的方法，用于解释基于无监督模型的异常检测，提取和可视化有效的异常特征，帮助领域专家理解异常并挑选出有用的异常，以最小化错误率。

Mar, 2019

本文介绍了基于编码器 - 解码器与注意力机制的序列标注语音理解的框架。提出了双向长短时记忆 - 长短时记忆网络（BLSTM-LSTM）作为编码器 - 解码器模型。针对 attention 机制无法提供准确对齐的问题，我们提出了一种新的焦点机制。在标准 ATIS 数据集上的实验表明，BLSTM-LSTM 配合焦点机制超越了标准的 BLSTM 与即便是 attention 机制的编码器 - 解码器模型，同时这种模型有更强的抗语音识别错误能力。

Aug, 2016