该文研究了几种评分规则，以便为概率预测模型评分或估计模型参数。研究发现，采用对数评分规则以在更不确定的情况下犯错为优势，采用球形评分规则则以在较低不确定性下犯错为优势，而其他评分规则则对两种选择都不关心。

Dec, 2011

本研究探讨文本分类的主动学习领域中的不同收集函数，并开发了一种用于未标记数据的预期分数变化向量的多样性的批量主动学习算法，最后结合集成式学习和动态验证集构建证明 BEMPS 的 mean square error 和 log probability 收集函数的优越表现。

Oct, 2021

本文探讨了使用零射击方式相对于微调方法的优势，并通过实验结果表明其在通用常识推理等二选一任务上表现出色。并且，作者认为此种方法的健壮性应从表征组合性的角度进行解释。

Jan, 2022

通过使用句子级的规则化方法，解决了在序列模型训练中，最大似然估计普遍存在的非平滑预测概率问题，并取得了在神经机器翻译任务中优越的性能。

Dec, 2018

提出了一种基于神经网络的生存回归模型 SurvivalMonotonic-net (SuMo-net)，该方法使用时间相关权重的单调限制直接优化对数似然函数，达到了多个数据集上最先进的对数似然得分，是现有神经方法的 20-100× 计算速度加速，适用于具有数百万观测值的数据集。

Mar, 2021

本文提出了一种自然指数分布家族 - 多项式指数分布家族， 对于这个家族的分布进行最大似然和得分匹配的比较研究，揭示得分匹配的损失函数可以通过计算复杂度低的优化方法进行计算，且在统计效率上与最大似然方法相当，而最大似然损失函数是无法通过基于梯度的方法进行优化的。

Jun, 2023

本文提出基于分数的扩散模型的最大似然训练方法，其中采用一种特定的权重方案，目标函数上界拘束负对数似然函数，达到了与当前最先进的自回归模型同等水平的负对数似然性能，验证了该方法在多个数据集、随机过程和模型结构上的有效性。

Jan, 2021

本文引入了 ScaleGrad，一种对梯度的改进方法，解决了 MLE 在训练模型中会优先使用枯燥、重复短语的问题，并通过直接操纵梯度信息使模型学习使用新颖标记，该方法不仅在无限制生成中表现良好，而且在定向生成任务中也有效。

Jun, 2021

基于凸函数的训练目标提供了一种新颖的方法，使得文本生成模型能够聚焦于高概率输出，同时增强了自回归模型与非自回归模型的生成能力。

Oct, 2023

我们提出了一种大间隔准则来训练神经语言模型，该模型的训练与最小化困惑度不同，通过增加语句的 “好” 和 “坏” 的间隔以进行特定任务的再评分，实验证明我们的方法在语音识别上可以减少 1.1 WER，在机器翻译中可以增加 1.0 BLEU。

Aug, 2018