Dec, 2023
FusDom: 结合领域内外知识进行持续自监督学习
FusDom: Combining In-Domain and Out-of-Domain Knowledge for Continuous Self-Supervised Learning
Ashish Seth, Sreyan Ghosh, S. Umesh, Dinesh Manocha
TL;DR本文介绍了一种名为 FusDom 的简单而创新的基于自监督学习的连续预训练方法,通过在两个具有修改的预训练头部的相同自监督学习模型之间使用交叉注意机制,实现有弹性且不遗忘过去所见概念的语音表示学习,从而改进了在目标领域的自动语音识别性能。