Jan, 2024

最小贝叶斯风险解码生成多样性和高质量文本

PDF
TL;DR生成文本系统中的关键挑战之一是产生不仅正确而且多样化的输出。本文提出了两种多样化的最小贝叶斯风险解码算法（DMBR 和 KMBR），通过在贝叶斯风险解码中引入多样性目标，生成高质量和多样化的句子集合。实验结果表明，所提出的方法在多个文本生成任务中比现有的多样化算法更好地平衡了质量和多样性。
text generation systemsminimum bayes-risk decodingdiverse outputsdiversity-promoting decoding algorithmsencoder-decoder models
发现论文，激发创造
  • 基于模型的最小贝叶斯风险解码

    在文本生成任务中，我们提出了基于模型的 MBR（MBMBR）方法，它使用模型概率本身作为概率分布的估计值，通过理论和实验证明模型估计优于蒙特卡洛估计，并且在多个文本生成任务中，包括编码 - 解码模型和大型语言模型中，MBMBR 表现优于 MBR。

    Nov, 2023

  • 快速最小贝叶斯风险解码的无超参数方法

    通过使用相关顺序减半算法来近似计算基于样本的最小贝叶斯风险目标，我们提出了一种不需要超参数调整的 AMBR 解码方法，该方法在机器翻译、文本摘要和图像字幕任务上与 CBP 方法相当。

    Jan, 2024

  • 神经机器翻译中最小贝叶斯风险解码的特性理解

    本论文探讨神经机器翻译中的偏差以及在域偏移和样本干扰下的弱点，并找到应用最小贝叶斯风险解码对抗这些问题的方案。结果表明，这个方法虽然仍有长度和频率偏差，但同样增加了模型的鲁棒性，对样本干扰和域偏移具有更好的适应能力

    May, 2021

  • 关于最小贝叶斯风险解码真实分布逼近

    使用异常检测来衡量最小贝叶斯风险解码的核心假设与性能之间的联系。

    Mar, 2024

  • 基于置信度剪枝的更快最小贝叶斯风险解码

    在最小贝叶斯风险解码中，通过逐渐增加样本数来估计效用，并使用基于自助法的抽样获得的置信度估计来剪除不太可能具有最高效用的假设，从而在准确性方面与标准 MBR 无显著差异的情况下，需要较少的样本并大幅减少效用函数调用次数。

    Nov, 2023

  • 神经机器翻译的后期最小贝叶斯风险解码

    本研究提出使用最小贝叶斯风险编解码技术 (MBR) 来消除基于 beam search 算法的模型自信度导致的输出错误，并使用 GPU 批量计算贝叶斯风险值以加速解码，并在机器翻译中验证后期 MBR 解码的优越性。

    Apr, 2017

  • MBR 从始至终：通过极小贝叶斯风险的视角探讨现代生成技术

    最小贝叶斯风险（MBR）解码是一种选择机器学习系统输出的方法，不是基于最高概率的输出，而是基于多个候选项中具有最低风险（预期误差）的输出。本文首先介绍了该方法和最近的文献，证明了一些最近的方法可以被写成 MBR 的特例，为这些方法的性能提供了额外的理论依据，并给出了在 NLP 模型中应用 MBR 的理论和实证结果，包括该领域的未来方向的具体建议。

    Oct, 2023

  • 线性时间最小贝叶斯风险解码与参考汇聚

    提出一种将成对度量分数近似为与聚合参考表示相对比的方法，从而将效用度量的复杂度从二次降低到线性，同时在实证中保留大部分 MBR 解码所带来的质量提升。

    Feb, 2024

  • 使用低秩矩阵补全算法进行高效最小贝叶斯风险解码

    通过矩阵完成技术，以及在机器翻译任务中将最小贝叶斯风险解码（MBR）作为矩阵完成问题，本文提出了一种新的逼近 MBR 解码的方法。实验证明该方法在机器翻译任务中具有较高的效率，并达到了与 MBR 解码相当的翻译质量。

    Jun, 2024

  • 用基于采样的方法逼近最小贝叶斯风险解码在神经机器翻译中的应用

    本研究分析了一种比 beam search 更有效的基于最小贝叶斯风险译码的决策规则，并设计了基于搜索和估计效用的成本分离近似算法，探讨了以模式为导向的策略对译文翻译的效果，实验证明这种方法在三种语言对中均能提高翻译质量。

    Aug, 2021