Jul, 2024

NLP 抽样：将 MCMC 与 NLP 方法相结合用于多样化约束抽样

PDF
TL;DR困难约束下生成多样样本是许多领域中的核心挑战，本研究旨在提供一个综合视图和框架，以结合 MCMC、约束优化以及机器人领域的方法，并通过实证评估来了解它们的优势。我们提出了 NLP 抽样作为一个通用问题形式，提出了一族基于重启的两阶段方法作为一个整合各个领域方法的框架，并在分析和机器人操纵规划问题上对其进行评估。此外，我们提供了几个概念性讨论，比如拉格朗日参数的作用、全局抽样的概念，以及扩散 NLP 和相应的基于模型的去噪采样器的思想。
发现论文，激发创造
  • 纠缠的 CP 与 NLP：不合理受限句子的生成

    约束文本生成问题是一个困难的任务，本文提出了一种以约束为先的框架来解决这个问题，并通过约束编程方法将语言属性与其他经典约束相结合，实现了成功生成高度约束文本的效果。该方法在一个新的高度约束的文本生成问题上展示了潜力。

    Jun, 2024

  • 基于梯度的语言模型约束采样

    该论文探讨了从预先训练的语言模型中受约束地生成文本的问题，并介绍了一种名为 MuCoLa 的采样过程，通过组合语言模型的对数可能性与任意（可微分）约束，以及使用 Langevin Dynamics 定义的马尔科夫链来生成文本。结果显示，MuCoLa 在避免有害信息、情感控制和关键词引导生成等任务中都获得了显著的性能提升。

    May, 2022

  • 基于自然语言处理和采样的高效社会选择

    使用自然语言处理和抽样相结合的系统，先利用 NLP 模型估计社区成员直接投票时提案通过的概率，再基于此估计选择一定规模的人口样本，通过取样多数决定提案。通过应用到多个去中心化自治组织的数据进行评估，解决一些代理社区在包括所有成员在决策过程中及社区成员有限时间和注意力之间的冲突。

    Sep, 2023

  • Cakewalk Sampling

    利用鲁棒的学习算法，我们研究了如何适应任意目标函数的采样分布以寻找良好的局部最优解。我们的研究结果表明，我们的自适应采样器可以为实践中出现的组合优化问题提供有效的解决方案。

    Feb, 2018

  • 使用马尔可夫链蒙特卡洛从大型语言模型中恢复心智表征

    使用大型语言模型（LLMs）作为抽样算法的元素，可以有效地研究 LLMs 的心理表征。我们通过使用 Direct Sampling 和 Markov chain Monte Carlo（MCMC）基于自适应抽样算法，实现了高效和高性能的心理表征恢复，同时展示了通过 LLMs 进行贝叶斯推断的潜力。

    Jan, 2024

  • 通过 Lovász's 局部引理和马尔可夫随机场采样学习组合结构

    本论文提出了一种基于神经网络的生成模型 Nelson，采用 Lovász Local Lemma，能够在满足组合约束条件的情况下生成样本。同时，本论文还提出了一种完全可微分的基于对比分歧的学习框架，称为 Nelson-CD，它利用了 GPU 的并行计算能力具有高效性。实验结果表明，Nelson 能够生成 100% 有效的结构，并且在学习度量方面，如对数似然和 MAP 分数等，优于基线模型。

    Dec, 2022

  • 使用强化学习的受限组合优化

    本文提出一个深度强化学习的框架来解决受限的组合优化问题，将受约束的组合问题定义为完全可观的受约束马尔可夫决策过程（CMDP），并提出从不满足的约束产生惩罚信号，以推断作为启发式算法的策略。通过对约束工厂和资源分配问题进行的实验表明，本文的提议对于比较经典的启发式算法、元启发式算法和约束编程（CP）求解器来说，能更快地求得答案。

    Jun, 2020

  • 机器学习与基于采样的运动规划集成调查

    本文综述了如何利用机器学习提高基于采样的运动规划器（SBMPs）的计算效率和适用性，包括提高节点采样、碰撞检测、局部规划等关键组件的学习方法，以及如何利用机器学习构建完整的 SBMP 结构，并提供了方法的优缺点以及未来的研究方向。

    Nov, 2022

  • 学习采样分布用于模型预测控制

    我们通过学习参数分布并在潜在空间中进行控制，提出了一种使用双层优化和正规流参数化分布的模型预测控制方法，旨在克服使用简单似然函数进行采样时出现的性能问题。在模拟机器人任务中，我们证明了该方法比以前的方法具有更好的性能和更少的样本数。

    Dec, 2022

  • 非对数凹和非光滑采样的 Langevin Monte Carlo 算法

    该论文研究了近似采样的问题，特别是非对数凹分布的问题，提出了基于 Langevin Monte Carlo 算法的马尔可夫链蒙特卡洛方法，并在两种非光滑分布的情况下进行了数字模拟来比较算法的性能。

    May, 2023