提出了一个使用自然语言推理链 (CoNLI) 来进行幻觉检测和幻觉减少的层次性框架，通过后期编辑来减少幻觉生成，从而提升文本质量。该框架在幻觉检测方面取得了最先进的性能，并在不进行微调或特定领域提示工程的情况下，使用大型语言模型 (LLMs) 进行重写，展示出了在各种上下文中具有竞争力的性能。

Oct, 2023

在这份调查中，我们旨在对大型语言模型（LLM）幻像领域的最新进展进行全面而深入的概述。我们从LLM幻像创新分类入手，然后深入探讨了导致幻像的因素。接下来，我们全面介绍了幻像检测方法和基准。此外，我们还相应介绍了用于减轻幻像的代表性方法。最后，我们分析了突出当前限制的挑战，并制定了未来LLM幻像研究的开放问题，旨在描绘发展方向。

Nov, 2023

大型语言模型（LLM）生成的文本中存在幻觉现象，通过信息检索来减少幻觉数量，但仍存在各种原因导致幻觉产生。为了促进这个方向的研究，我们引入了一个复杂的数据集DelucionQA，用于捕捉检索增强LLM在特定领域的问答任务中所产生的幻觉，并提出了一系列幻觉检测方法作为未来研究的基准。分析和案例研究还提供了有关目标场景中幻觉现象的宝贵见解。

Dec, 2023

我们通过探究模型生成的输入、输出和内部状态中的指标来检测大型语言模型生成中的幻觉，结果表明这些指标在幻觉生成和非幻觉生成之间存在差异，我们进一步通过训练二分类器使用这些指标作为输入特征来将模型生成划分为幻觉和非幻觉，此二分类器的AUROC值达到0.80，并且我们展示了先前的幻觉中的令牌可以预测随后的幻觉。

Dec, 2023

通过多个数据集和大型语言模型，包括Llama-2，对该模型的幻觉水平进行广泛评估，并展示了我们的方法在自动检测幻觉方面的有效性，达到了87%的平衡准确率，而无需依赖外部知识。

Mar, 2024

减少大型语言模型的“幻觉”问题对其广泛应用非常关键。本论文提出了ANAH数据集，对生成式问答中语言模型的“幻觉”进行了精细的测量与注释，并通过实验验证了ANAH训练的生成式标注模型在细粒度幻觉注释方面的优势，表现超过目前的开源大型语言模型和GPT-3.5，与GPT-4的性能竞争，对于未知问题具有更好的泛化能力。

May, 2024

大型语言模型（LLMs）在各种自然语言处理任务上表现出色。然而，它们容易生成流畅但不真实的回复，即“幻觉”。幻觉可能导致错误信息的传播，并在关键应用中造成伤害。减少幻觉具有挑战性，因为它们来源于嘈杂的数据、模型自信心过度、缺乏知识和生成过程等因素。最近的研究通过表示编辑和解码算法来解决这个问题，实现减少幻觉但不进行重大结构更改或重新训练。然而，这些方法要么隐式地在潜在空间中编辑LLMs的行为，要么在解码过程中抑制输出不忠实的结果的倾向，而不是显式地对幻觉进行建模。在本文中，我们介绍了忠实微调（F2），这是一种通过精心设计的损失函数在微调过程中显式地对忠实回答建模的新方法。我们在常用数据集上进行了广泛的实验，并证明F2相对于基线模型能够取得显著改进。

Jun, 2024

该论文介绍了一种迭代自训练框架，可以扩展大型语言模型幻觉注释数据集的规模，提高幻觉注释器的准确性，并且通过先进的零样本推理，在HaluEval和HalluQA上获得了全新的幻觉检测结果。

Jul, 2024

本研究针对大语言模型中的幻觉现象（生成与输入、不实外部事实或内部不一致的输出）进行检测，提出了一种后期检测的创新方法。通过生成信心分数、根据输入和候选响应的属性进行校准，并通过阈值实现检测，研究显示多评分框架能有效结合不同评分的优点，显著提升检测效果，同时实现成本效益高的检测方法，有望减少计算开销。

Jul, 2024

本研究针对大型语言模型（LLMs）在生成不可靠输出时存在的幻觉问题，提出了一种后续幻觉检测的方法。该方法结合多种评分方法以提高检测效果，并引入经济有效的多评分框架，以降低计算成本，同时实现优于传统检测方法的表现。

Jul, 2024