BriefGPT.xyz
May, 2021
CTC 为什么会产生尖峰行为？
Why does CTC result in peaky behavior?
HTML
PDF
Albert Zeyer, Ralf Schlüter, Hermann Ney
TL;DR
通过分析CTC模型的峰形行为，得出了为什么会出现峰形行为以及何时这是不优的深刻认识，并研究了相关的训练标准和梯度下降收敛性。同时发现，CTC只有与空白标签一起使用才能很好地工作，并证明了其它相关损失不会出现峰形行为从而提高了收敛性。
Abstract
The
peaky behavior
of
ctc models
is well known experimentally. However, an understanding about why
peaky behavior
occurs is missing, and w
→