May, 2024

一对多：理解来自多个错误和不一致的人工智能生成模型的准确信息

PDF
TL;DR通过研究测试人员对于多个、潜在不一致的模型生成输出的理解，我们发现不一致降低了被测试人员对 AI 的感知能力，同时也提高了对给定信息的理解。因此，我们提出了设计建议，将不一致性透明地呈现出来，以指示这些模型的局限性，并促进批判性的语言模型使用。
large language modelsinconsistenciesgenerated outputscomprehensiondesign implications
发现论文，激发创造
  • 通过辩论深入探究大型语言模型的内部一致性

    在人工智能的领域中，大型语言模型（LLMs）需求渐趋增长。本研究通过命题竞辩框架来探讨多个 LLMs 之间的持续性以及一致性问题，确立了公正比赛，失调比赛和圆桌比赛的三个阶段，并在多个常识推理数据集上进行了广泛的实验，从而提出了令人信服的解决方案

    May, 2023

  • 大型语言模型（LLM）的利用中的挑战和影响因素

    当面临领域特定问题时，大语言模型（LLMs）可能会遇到问题，如知识遗忘、知识重复、知识幻觉以及知识毒性，这些问题突显了 LLMs 的训练数据和算法设计的困扰。为了解决这些问题，建议对训练数据进行多样化，微调模型，提高透明度和可解释性，并引入伦理和公平性培训。未来的技术趋势可能会倾向于迭代方法学、多模态学习、模型个性化定制以及实时学习和反馈机制。最重要的是，未来的 LLMs 应确保在为人类服务时优先考虑公平、透明和伦理，确保它们持有高的道义和道德标准。

    Oct, 2023

  • 对防止生成有害信息而言，仅靠对齐是不够的：一个精神分析的视角

    我们的研究揭示了大型语言模型在面临对抗性攻击时的脆弱性的根源，质疑仅仅依赖复杂的对齐方法的有效性，并进一步主张将模态概念与传统的非模态概念相结合，为大型语言模型赋予对现实世界环境以及伦理考虑更细致的理解。

    Nov, 2023

  • 大规模语言模型在歧义下的自一致性

    在含糊的整数序列填充任务中，我们在 OpenAI 模型套件上进行了一系列行为实验，发现平均一致性介于 67％和 82％之间，远高于模型一致性随机的预测，并随着模型能力的提高而增加。此外，我们发现模型在自我一致性上具有不良标定性，并且通常倾向于在潜在的答案中分配显著的权重。

    Oct, 2023

  • 一致预测何时可能是正确预测？

    通过更长的推理文本，使得大型语言模型能够生成连续思路样式的推理，从而提高了自我一致性性能。

    Jul, 2024

  • 通过一致对齐提升大型语言模型的鲁棒性

    定义了指令不一致问题并提出了两阶段训练框架，在第一阶段通过相似指令增强帮助模型跟随指令，第二阶段通过区分相似回应中微小差异来提高模型的多样性和人类期望的一致性，并通过自奖励训练过程来验证该框架的有效性。

    Mar, 2024

  • 大型语言模型的语义一致性保障

    通过引入语义一致性的综合度量和提出的问询策略来提高大型语言模型在开放式文本生成和闭卷问题回答方面的性能。

    Aug, 2023

  • RELIC: 通过自一致性研究大型语言模型的回答

    为了解决大型语言模型生成的虚构和非事实内容的问题，我们提出了一种交互系统，通过多个样本的自一致性来评估生成文本中个别声明的置信度，从而帮助用户获取对生成文本可靠性的洞见。通过用户研究，我们证明了该方法有助于用户更好地验证生成文本的可靠性，并总结了该研究对于未来关于可靠人机对话的启示、设计影响和经验教训。

    Nov, 2023

  • 大型语言模型是否能像人类一样推断和产生分歧？

    本文研究大型语言模型在处理自然语言推理任务上的表现，并通过 Monte Carlo Reconstruction 和 Log Probability Reconstruction 两种方法评估其与人类理解的一致性，结果表明大型语言模型在 NLI 任务和人的理解差异分布方面表现不佳。

    May, 2023

  • 反馈链：缓解响应一致性的影响

    AI 模型如 ChatGPT 存在可靠性和一致性问题，本文通过引入 Chain-of-Feedback 触发模型偏离实际答案，提出一种新的提示方法 Recursive Chain of Feedback (R-CoF)，以修正模型最初错误的推理。

    Feb, 2024