Sep, 2023

奖励（不）一致性对 RLHF 的渗透影响

PDF
TL;DR通过对奖励模型 (RM) 的一致性进行研究，本文提出了一种基于对比指令的策略来测量奖励模型的一致性，并提出了 ConvexDA 和 RewardFusion 两种技术来提高奖励模型的一致性，实验证明了更一致的 RM 对下游 RLHF 模型的训练产生了更有用的响应。
reinforcement learning from human feedbackreward modelrm consistencycontrast instructionsrlhf model
发现论文，激发创造
  • 大型语言模型中 RLHF 的秘密之二：奖励建模

    从数据和算法的角度出发，本文针对强化学习通过人类反馈进行优化的技术中面临的困难提出了解决方法，包括使用多个奖励模型进行数据评估和投票机制来消除数据中错误和模糊偏好的影响，并引入对比学习和元学习来增强奖励模型的区分能力和泛化能力，从而实现迭代优化。

    Jan, 2024

  • 对齐上界：从人类反馈中的强化学习目标不匹配

    用来自人类反馈的强化学习技术已经成为一个强大的工具，使得大型语言模型在复杂环境中更容易引导，更具能力。然而，由于奖励模型、策略模型和评估模型之间的不一致性，存在目标不匹配的问题。本文探讨了这个问题的原因，并回顾了相关的模型学习和强化学习文献。同时，讨论了激励解匹配之后的解决方案，以促进进一步的研究，从而使未来的语言模型更加准确地遵循用户的指令，提供更安全和有用的服务。

    Oct, 2023

  • 使用对比奖励提升来自人类反馈的强化学习

    本文通过引入一种名为对比奖励的奖励惩罚项，改进了奖励模型的效果，在强化学习中对奖励的不确定性进行了压制，提高了鲁棒性，鼓励基准改进，根据任务难度进行校准，并减少了 PPO 中的方差。经实证表明，对比奖励可以极大提高从人类反馈中强化学习的效果，无论是通过 GPTs 还是人类评价，我们的方法始终优于强基准。

    Mar, 2024

  • 探索奖励差距对偏好模型性能的影响

    从人类反馈中进行强化学习（RLHF）是一种广泛使用的语言模型训练框架。我们的研究发现，使用传统的基于人类偏好数据的排名目标来训练现有的奖励模型时，往往难以有效区分在真实场景中更受欢迎或不受欢迎的回应。为了弥补这一差距，我们的研究引入了一种新的方法来估计偏好差异，而无需从人类注释员那里获得详细的详尽标签。我们的实验结果从经验上证明，将边界值纳入训练过程中显著提高了奖励模型的效果。这种比较分析不仅展示了我们的方法在奖励预测准确性方面的优越性，还突出了它在实际应用中的有效性。

    Apr, 2024

  • 基线分析奖励模型在分布转移下准确分析基础模型的能力

    基于大型语言模型的基石模型，通过人类反馈的强化学习训练来捕捉期望的行为，并通过奖励模型对语言模型进行校准。然而，很少有研究评估这些奖励模型对分布偏移的鲁棒性，本研究评估了奖励模型性能与分布偏移的关系，并展示了由于异常输入导致的校准和准确率下降问题，并提出了在奖励模型中检测分布偏移的方法。

    Nov, 2023

  • RLHF 揭示：对于 LLMs 的强化学习从人类反馈的关键分析

    通过强化学习原理的角度分析了强化学习来自人类反馈的语言模型的基础，重点关注了奖励模型作为 RLHF 核心组件的建模选择、函数逼近的陷阱，以及它们对训练算法的影响，同时揭示了当前方法的局限性。通过对现有文献的分类评论，我们对 RLHF 的挑战进行了描述，为研究人员和从业者理解 RLHF 的挑战并建立在现有研究的基础上提供参考。

    Apr, 2024

  • 通过约束强化学习高斯过程避免奖励模型过度优化

    使用约束强化学习方法解决复合奖励模型中过度优化问题，并通过学习动态权重以改善评估性能、识别并优化评估阈值点的自适应方法。

    Oct, 2023

  • 强化学习中基于人类反馈的免费密集奖励

    从人类反馈中进行强化学习是使大型语言模型能够有效地遵循指令并产生有用辅助的关键进展，通过使用注意力权重重新分配奖励以高亮最重要的标记，它在稳定训练、加快学习速度和实现更好的局部最优解方面展现了实证优势。

    Feb, 2024

  • 一致性模型的强化学习：更快的奖励引导文本到图像生成

    通过强化学习调优一致性模型，我们提出了一种能够针对任务特定奖励实现快速训练和推理的框架，该框架名为迭代学习一致性模型（RLCM）。与使用提示进行训练的强化学习调优扩散模型相比，RLCM 训练速度更快，根据奖励目标改进了生成的质量，并通过最多两个推理步骤生成高质量图像的推理过程加速。

    Mar, 2024

  • RewardBench：评估语言建模的奖励模型

    RewardBench 是一个用于评估奖励模型的基准数据集和代码库，旨在增强对奖励模型科学理解的同时，深入了解用于语言模型对齐的不透明技术以及其中嵌入的价值观。通过包含多个难度级别、结构化和分布外查询的提示 - 赢 - 输三元组，我们对通过各种方法训练的奖励模型进行了评估，并针对拒绝、推理限制和指示跟随等方面的问题提出了许多发现，以促进对 RLHF 过程的更好理解。

    Mar, 2024