Jun, 2023

系统层面的自然语言反馈

PDF
TL;DR本文提出了一种通用框架，利用自然语言反馈来解锁系统级反馈的用处，并应用于搜索和对话系统的查询和响应生成中，本方法证明了系统级反馈与实例级反馈的结合带来了更多的收益，并强调了人类反馈对系统构建的重要性。
natural language feedbacksystem-level design decisionsmetric designlanguage model prompt designhuman feedback
发现论文，激发创造
  • 弥合断层：自然语言生成中融入（人类）反馈的调查

    本文对利用人类反馈来提高自然语言生成的研究进行了综述。通过介绍反馈的形式和目标，讨论了直接使用反馈或训练反馈模型两种方法在训练和解码过程中的应用。此外，我们还探讨了与反馈收集相关的现有数据集和问题，并提供了人工智能反馈领域的概述。

    May, 2023

  • 将人类纳入自然语言处理环节：一项调查

    介绍了人与自然语言处理模型 (NLP) 的交互式 (HITL) 的短暂但激动人心的历史，总结了近期以任务、目标、人机交互和反馈学习方法为重点的各种 HITL NLP 框架，并讨论了将来在 NLP 开发中整合人类反馈的方向。

    Mar, 2021

  • 使用语言反馈进行语言模型训练

    通过从自然语言反馈中学习，本文提出了一种三步学习算法来通过对其输出的反馈来优化预训练语言模型，以获得人类水平的摘要能力。

    Apr, 2022

  • 让我教你：语言模型反馈的教学基础

    该文介绍了一种基于教育学理念的自然语言反馈体系 (FELT)，它可帮助优化自然语言生成模型 (LLMs) 的反馈设计，并提供了一个反馈内容分类系统。

    Jul, 2023

  • 利用细粒度自然语言反馈进行学习优化

    使用三个不同的大型语言模型 (LMM) 能力，通过细粒度的自然语言反馈和排除错误提高事实一致性，优于现有端到端细化方法和当前未经调整的模型。

    Jul, 2024

  • 一种可扩展的框架，用于从隐性用户反馈中学习，以改善大规模对话 AI 系统中的自然语言理解能力

    本文提出了一种可扩展且自动的方法，通过利用隐式用户反馈来改进大规模对话 AI 系统中的自然语言理解 (NLU)。我们基于用户交互数据和对话上下文，提出了一个通用的领域无关框架，以改进来自生产流量的 NLU 新监督数据。通过广泛的实验，我们展示了应用该框架并改进大规模生产系统中的 NLU 的结果，并展示了其在 10 个领域的影响。

    Oct, 2020

  • 学习模拟自然语言反馈进行交互式语义解析

    提出了一种利用模拟的自然语言反馈来训练交互式语义解析器的任务和新颖的反馈评估器，证明该反馈模拟器可以在低数据集情况下，生成高质量的自然语言反馈来提高特定解析器的错误纠正能力。

    May, 2023

  • 通过自然语言反馈训练，改进代码生成

    本文提出了一种基于自然语言反馈的训练算法 ILF 并在神经程序综合任务中证明了其有效性，ILF 只需要少量人工编写的反馈意见就能提高 LLM 的表现，并且比仅仅基于演示训练的方法更有效和更节省样本。

    Mar, 2023

  • 利用大型语言模型为人类导师提供解释性反馈

    研究表明，学习者参与制作解释以支持他们的推理过程，对学习有积极影响。本文介绍了两种方法，可供教师在在线课程中提供实时反馈，并介绍了采用大型语言模型促进的命名实体识别的增强方法的进展。

    Jun, 2023

  • 通过自然语言反馈教机器描述图片

    本研究通过引入人在环路中，使得机器人可以通过自然语言意见反馈学习多层级基于短语的图像字幕生成，展示出比独立编写的人类字幕表现更好的性能

    Jun, 2017