关键词negative log-likelihood
搜索结果 - 5
- 通过组合优化学习非标准化统计模型
本文探讨了一种直接优化非规范化模型负对数似然的方法,通过引入噪声分布,实现了将对数分区函数写为组合函数的形式,进而通过随机组合优化算法进行优化,较噪声对比估计方法具有更快的收敛速度和更好的性能。
- ACL结构化预测中可分离损失的不一致性
本文证明了针对结构化预测问题的一种可分离的负对数似然损失不一定是贝叶斯一致的,即最小化此损失并不一定会产生一个在给定输入的数据分布中预测最可能结构的模型,这个事实引出一个问题,即这些损失是否适用于结构化预测,如果适用,则为何适用。
- ACLRewardsOfSum: 探索用于摘要生成的强化学习奖励
该研究提出了两种用于抽象摘要任务的奖励函数:RwB-Hinge 和 RISK。实验结果表明,这些函数在以 NLL 为基线的基础上实现了一致的性能提升。
- 基于分数的扩散模型的最大似然训练
本文提出基于分数的扩散模型的最大似然训练方法,其中采用一种特定的权重方案,目标函数上界拘束负对数似然函数,达到了与当前最先进的自回归模型同等水平的负对数似然性能,验证了该方法在多个数据集、随机过程和模型结构上的有效性。
- ICML深度集成中的幂律
该研究探究了深度集成的负对数似然函数在集成规模和成员网络规模方面遵循幂律的行为,发现与一个大的网络相比,具有相同参数总数的若干个中等大小的网络集成可以获得更好的性能。研究者发现这种 “memory split” 效应并发现了幂律运动的动力学