Dec, 2023

一种用于可控能量驱动文本生成的区块 Metropolis-Hastings 采样器

PDF
TL;DR能量基语言建模与 Metropolis-Hastings 抽样器相结合可实现更高效和准确的文本生成，通过迭代提示大型语言模型，允许在每个步骤中对整个序列进行重写，从而确定生成长度和提高下游性能。
energy-based language modelingcontrollable text generationmetropolis-hastings sampleriterative promptingcontrolled generation tasks
发现论文，激发创造
  • 基于梯度的基于马尔科夫链蒙特卡罗的文本生成原则

    通过改进基于梯度的采样算法，实现对目标基于能量的文本分布的正确采样，以生成流畅的文本并更好地满足控制目标。

    Dec, 2023

  • 通过 Metropolis-Hastings 揭示掩码语言模型背后的隐式能量网络

    本文提出了一种从 MLMs 中推导出能量参数，并利用 Metropolis-Hastings Monte Carlo 算法开发了可处理的采样方案，用于无限制的生成和有条件的生成任务，证明了所提出参数化的有效性，以及我们的方法生成的样本比其他最近提出的非定向生成方法生成的更高质量。

    Jun, 2021

  • 混合搭配：能量语言模型控制的无需学习文本生成

    本文提出了一种名为 Mix and Match LM 的生成模型框架，该框架使用全局评分的方式结合预训练模型来实现生成文本的可控性，同时采用 Metropolis-Hastings 采样算法进行采样，取得了在多项测试领域中优于其他最新方法的表现。

    Mar, 2022

  • QUEST: 机器翻译的质量感知 Metropolis-Hastings 采样

    在机器翻译中，为解决生成高质量和多样化的翻译的挑战，本文采用 Gibbs 分布的能量函数，并通过 Metropolis-Hastings 算法从高密度区域生成多个样本，提供了一种简单有效的方法来避免过度依赖噪声质量估计的问题。实验结果表明，所提出的方法在多种语言对（英语↔德语、俄语）和两个强解码器单模型（Alma-7b、Tower-7b）中产生了高质量和多样化的输出。

    May, 2024

  • CGMH: 用 Metropolis-Hastings 采样实现句子生成限制

    本论文提出 CGMH，一种使用 Metropolis-Hastings 采样的新方法，可用于受约束的句子生成，包括多个关键字等复杂约束条件以及无监督的句子改写和纠错。CGMH 在各种任务中表现出与以前的句子生成监督方法相比很高的性能。

    Nov, 2018

  • 基于 Metropolis-Hastings 数据增强的图神经网络

    该论文提出了一种名为 Metropolis-Hastings Data Augmentation（MH-Aug）的新型框架，利用 Metropolis-Hastings 算法从一个显式目标分布中抽取增强的图形，实现对图形神经网络进行半监督学习，从而改善了 GNN 的性能。

    Mar, 2022

  • 一种基于分布式的控制文本生成方法

    本文提出一种基于分布式方法的控制文本生成方案，旨在在单个形式框架中指定 “点对点” 和 “分布式” 约束，实现与初始 LM 分布 KL 散度最小的目标 LM 的训练。同时，基于 Energy-Based Model 表示确定最优目标分布。该方案通过自适应分布式模型改进了 Policy Gradient. 作者在实验中表明，该方案在满足约束方面较其它方法具有优势。实验结果还表明该方案应对了语言模型中 “偏见” 的问题。

    Dec, 2020

  • 具有能量守恒子抽样的 Hamiltonian Monte Carlo

    本文提出利用一种基于 HMC-within-Gibbs 框架的方法来实现参数的高效子采样，并且利用一个伪边缘 MH 步骤来更新子采样，然后使用基于当前子采样的 HMC 步骤来更新参数，在实验中，我们展示了这种子采样方法的速度和精度，同时还探讨了现有子采样 HMC 算法的局限性。

    Aug, 2017

  • MCMC 领域的紧缩：削减 Metropolis-Hastings 预算

    本研究旨在提高在处理大数据集时的贝叶斯后验 MCMC 采样的效率，通过引入基于连续假设检验的近似 MH 规则，根据部分数据即可高置信度地接受或拒绝样本，从而减少计算代价，同时控制引入的渐近偏差使方差下降得以更快。

    Apr, 2013

  • 扰动状态空间模型与粒子边缘 Metropolis-Hastings 采样器

    通过对潜在噪声变量而非潜在状态变量进行重新表述的方法，我们研究了没有闭合形式转移的非线性状态空间模型。研究发现，这种转化实现了可计算的噪声密度以代替不可计算的转移密度，可作为辅助粒子滤波器等重要性抽样方法中的重要权重计算。通过两个多元海洋生物地球化学模型的实例探讨粒子边缘 Metropolis-Hastings 采样器的状态和参数估计问题。结果表明，对于快速混合过程模型来说，重新表述噪声变量的模型非常有用。

    Feb, 2012