Oct, 2023
MBR 从始至终:通过极小贝叶斯风险的视角探讨现代生成技术
It's MBR All the Way Down: Modern Generation Techniques Through the Lens of Minimum Bayes Risk
Amanda Bertsch, Alex Xie, Graham Neubig, Matthew R. Gormley
TL;DR最小贝叶斯风险(MBR)解码是一种选择机器学习系统输出的方法,不是基于最高概率的输出,而是基于多个候选项中具有最低风险(预期误差)的输出。本文首先介绍了该方法和最近的文献,证明了一些最近的方法可以被写成 MBR 的特例,为这些方法的性能提供了额外的理论依据,并给出了在 NLP 模型中应用 MBR 的理论和实证结果,包括该领域的未来方向的具体建议。