self normalization | BriefGPT

关键词self normalization

搜索结果 - 1

大词汇神经语言模型的训练策略
本研究系统比较了代表性的方法来表示和训练大词汇下的神经网络语言模型，包括 softmax、层级 softmax、自归一化等方法，并在三个流行的基准数据集上评估了每种方法在罕见词汇、速度 / 精度平衡以及与 Kneser-Ney 模型之间的互
PDF9 years ago