针对当前 QA 系统无法提供合理的解释或证据而生成错误答案的问题，我们提出了一个辩论式的数据集，用于训练模型为两个候选答案提供解释。然而，我们未发现该设置中的解释能够提高人类准确性，但提供人类选择的文本片段则可提高准确度，我们使用这些结论建议未来数据收集工作的改进。

Apr, 2022

辩论通过两个不可靠专家的辩论，帮助非专家更可靠地辨别真相，相较于仅由一个专家提供答案的顾问咨询方法在提高了效率的同时，能够显著提升评判的准确性，为监督日益强大但潜在不可靠的 AI 系统提供了有希望的方法。

Nov, 2023

研究人员提出在 AI 解决方案无法得到准确判断的问题中，可通过两个 AI 系统之间的辩论来增强人类法官的问题解决能力，并介绍了一个可建模此类辩论的数学框架，并将辩论设计的质量测量为最有力回答的准确性。

Nov, 2019

通过使用最先进的 RC 模型，我们对单回合和多回合推理在 SQuAD 和 MS MARCO 数据集上的表现进行了实证研究，发现多回合推理优于单回合推理，启用灵活的回合次数通常优于固定的多回合策略，并且特别有助于具有冗长描述性答案的问题。

Nov, 2017

本研究提出一个基于自我对话模型的评价过程，旨在寻找一种在不同注释人员之间具有更强鲁棒性的评级测试方案。经过实验证明，在这种方案下，我们可以在更快、更便宜的情况下推出新的测试标准并发布开源代码。

Sep, 2019

大型语言模型的对齐方法主要依赖于人工标注数据，但随着模型的不断发展，人类专业知识将不再足够，将由非专家来监督专家。我们研究了一个类似情景，强大模型（专家）拥有回答问题所需的信息，而弱小模型（非专家）缺乏这些信息。我们发现辩论方法对非专家模型和人类都有帮助，相应的准确率分别为 76% 和 88%（与朴素基准分别为 48% 和 60%）。此外，以无监督方式优化专业辩手的说服力可以提高非专家模型在辩论中识别真相的能力。我们的研究结果为在没有绝对真实性的情况下，通过辩论来对齐模型提供了有益的实证证据。

Feb, 2024

通过对开放式新闻标题生成任务中的人类研究和模型评估，我们分析了解释的表达方式和存在对用户信任和模型性能的影响。整体而言，我们提供了证据表明，在用户有机会比较不同的回答时，模型回答中添加解释以证明其推理能显著增加用户对模型的自我报告信任。对这些解释的位置和忠实度也是重要因素。然而，当用户独立地看到回答时，这些增益消失，这表明人类在独立显示时平等地信任所有模型回答，包括欺骗性的回答。我们的发现督促未来的研究更深入地探讨人机合作系统中信任的微妙评估。

Jun, 2024

ArguMentor 设计了一个全套系统，它突出了意见文章中的论点，并利用 LLM 为其生成反驳观点，然后根据当前事件为文章生成基于上下文的摘要。通过额外的功能如问答机器人，辩论和突出触发窗口，该系统进一步增强了用户的交互和理解。我们的调查和结果显示，用户在使用该系统后能够产生更多的反驳观点，并且平均具有更多中立的观点。

Jun, 2024

本文通过设计分类来分析多答案现象的出现原因以及采用不同策略来更好地解决多答案现象，在实验中发现生成模型可能成为一个有前途的平台来整合不同范例。

Jun, 2023

通过采用自我对弈的零和辩论游戏的方式来训练智能体，以此作为人类判断的替代，来实现 AI 系统对于复杂任务的精准输出，并讨论了辩论模型的理论和实践方面的问题。

May, 2018