Oct, 2024

测量、评估和改进大语言模型的逻辑一致性

HTML
PDF
TL;DR本文解决了大语言模型（LLM）在决策和判断中表现出不一致和偏见行为的问题，强调逻辑一致性对于构建可预测、可靠和可信赖系统的重要性。我们提出了一种通用框架，通过传递性、交换性和否定不变性三个基本代理量化逻辑一致性，并开发了数据精炼和增强技术来优化LLM的逻辑一致性。研究表明，逻辑一致性对基于LLM的逻辑依赖算法的表现有显著影响。
发现论文，激发创造
  • 通过语义一致性衡量大型语言模型的可靠性

    本研究针对更新的预训练语言模型（PLMs）在语义一致性方面的问题，提出了一种衡量语义一致性的度量标准，并在TruthfulQA数据集上评估多个PLMs的性能，发现我们提出的语义一致性度量标准比传统的基于词汇一致性的度量标准更可靠，也与人类评估输出一致性的程度更为相关。

    Nov, 2022

  • 通过辩论深入探究大型语言模型的内部一致性

    在人工智能的领域中，大型语言模型（LLMs）需求渐趋增长。本研究通过命题竞辩框架来探讨多个LLMs之间的持续性以及一致性问题，确立了公正比赛，失调比赛和圆桌比赛的三个阶段，并在多个常识推理数据集上进行了广泛的实验，从而提出了令人信服的解决方案

    May, 2023

  • 一步步采样：适应性一致性用于LLMs高效推理

    本文介绍了一种新的自适应一致性技术，用于提高大型语言模型输出结果的正确性和降低采样成本，实验证明该技术能够将采样成本降低最多6倍并且保持高精度。

    May, 2023

  • LLMs的多步推理中自洽性的两个失败

    本论文主要研究大型语言模型在多步推理中的自我一致性表现，提出假设一致性和组合一致性两个重要概念，并实现对GPT-3模型在维基百科，日常对话，算术和地理查询任务中表现不佳的演示。

    May, 2023

  • 大型语言模型的语义一致性保障

    通过引入语义一致性的综合度量和提出的问询策略来提高大型语言模型在开放式文本生成和闭卷问题回答方面的性能。

    Aug, 2023

  • 大规模语言模型在歧义下的自一致性

    在含糊的整数序列填充任务中，我们在OpenAI模型套件上进行了一系列行为实验，发现平均一致性介于67％和82％之间，远高于模型一致性随机的预测，并随着模型能力的提高而增加。此外，我们发现模型在自我一致性上具有不良标定性，并且通常倾向于在潜在的答案中分配显著的权重。

    Oct, 2023

  • 评估大型语言模型的一致性和推理能力

    大型语言模型在学术、研究、商业和金融等领域被广泛应用于文本生成、摘要和翻译等任务，然而，这些模型往往会产生不正确和误导性的信息，主要原因是一致性和推理能力的不足，因此本研究旨在评估和比较公开和专有的大型语言模型的一致性和推理能力，并发现专有模型在一致性和推理能力方面通常优于公开模型，但即使面对基本的常识问题，没有一个模型在一致性和推理能力上都达到90%的得分。

    Apr, 2024

  • ContraSolver: 通过解决内部偏好矛盾自我对齐语言模型

    通过构建偏好关系的图结构，并使用自我注释来找出偏好排序中的矛盾，我们提出了ContraSolver算法，通过遍历图上的边识别可能导致矛盾的边，并优先解决低置信度的偏好。我们的实验证明通过完全无监督的自我对齐可以大大提高不同大型语言模型的性能。通过分析经过自我对齐和未经自我对齐的大型语言模型的偏好图，我们量化了矛盾减少，并表明解决偏好矛盾对于实现更好的对齐性能至关重要。

    Jun, 2024

  • 在大型语言模型推理中平衡理性偏差和认知偏见：并非所有偏见均不好

    通过研究大型语言模型（LLMs）的决策过程中的偏见，本研究揭示了不同偏见在决策过程中的微妙作用，并发现合适的平衡可以提高模型性能、改善决策准确性。我们引入了启发式调节和弃权选项的概念，并通过我们的研究结果表明，恰当缩放的偏见检查能够使LLMs的决策更符合人类的推理，提高其可靠性和值得信赖性，从而为未来的改进提供了新的策略。

    Jun, 2024

  • 大型语言模型是否总能解决简单问题，如果它们能解决更困难的呢？

    研究中提出了ConsisEval基准，用于量化大型语言模型的一致性，并通过相对一致性得分分析改进一致性的潜力。综合实验结果表明，尽管GPT-4的一致性得分最高，但仍然对特定问题存在不一致性，这可能是由于多余信息干扰、对问题的错误解读等因素导致的。而能力更强的模型通常具有更高的一致性，但也存在例外情况，并且硬数据能够提高微调和上下文学习的一致性。

    Jun, 2024