研究了深度神经模型在自然语言生成任务中容易出现虚假或不存在的事实，分析了预测不确定性与虚假信息之间的关系，提出了一种简单的扩展 beam 搜索算法来减少虚假信息。研究表明，更高的预测不确定性与更高的虚假信息存在相关性，认知不确定性比卡方不确定性和总不确定性更能表明虚假信息。探索了标准指标性能和虚假信息量的平衡，证明了所提出的扩展 beam 搜索算法的有效性。

Mar, 2021

本文证明了图像修复算法中失真度 (Distortion) 和感知质量 (perceptual quality) 是对立的，并研究了正确判别图像修复算法输出与真实图像之间的最优概率，此概率需随均值失真程度的降低而逐渐增加，GAN 提供了超越感知失真界限的原则方法。作者提出了一种新的评估算法质量的方法，并使用该方法对最近的超分辨率算法进行了广泛比较。

Nov, 2017

本文发现了一个简单的标准 —— 模型不确定性高 —— 会导致生成更多的错误内容（即幻觉），并提出了一种解码策略，该策略在存在不确定性时优化源和目标单词的点间互信息，从而减少幻觉的出现，并在 XSum 数据集上进行了实验证明，该方法降低了幻觉的概率，同时保持了黄色和 BertS 得分。

Oct, 2022

通过与大规模语言模型和数据集合作，本文分析了医学生成型问答系统中幻觉现象的问题，并提出了一种交互自我反思的方法来解决该挑战，最终实验证明该方法在幻觉减少方面优于基线模型。

Oct, 2023

我们研究了确定性成像逆问题求解方法的行为，证明了为了实现高感知质量和与测量一致的重建，越好的预测器的利普希茨常数必须越大，这意味着这种方法对敌对攻击更加敏感。我们在单图像超分辨率算法上展示了我们的理论，并展示了如何利用这种不希望的行为来探索后验分布，从而使确定性模型模仿随机方法。

Nov, 2023

本文提出了一种基于生成模型的贝叶斯逆问题方法，特别针对图像重建中的噪声和不完整图像，并解决了贝叶斯重建中遇到的常见问题：使用包含所有可用信息的复杂数据驱动先验，并在潜在空间和数据空间中进行可计算的不确定性量化。

Oct, 2019

最近的语言模型在生成对外观听起来真实但实际上是虚假的文本方面存在神秘的倾向，这对于基于语言的人工智能系统的可用性构成了障碍，并可能对依赖其输出的人造成伤害。本研究表明，预训练语言模型出现虚构某些类型的事实的统计原因是固有的，与变压器 LM 架构或数据质量无关。对于那些无法从训练数据中确定真实性的 “任意” 事实，我们表明，在适用于生成式语言模型的统计校准条件下，产生幻觉是必要的。具体而言，如果任何事实的最大概率受限，则我们表明产生幻觉的概率接近于训练数据中仅发生一次的事实的分数（一种 “Good-Turing” 估计），即使假设没有错误的理想训练数据。一个结论是，预训练模型要成为足够好的预测器（即校准），可能需要进行后期处理以减轻在训练集中只出现一次的任意事实类型的幻觉。然而，我们的分析还表明，预训练不会在训练数据中多次出现的事实（如对文章和书籍的引用等）或系统性事实（如算术计算）上产生幻觉。因此，不同的架构和学习算法可能会减轻这些后一类幻觉。

Nov, 2023

我们通过探究模型生成的输入、输出和内部状态中的指标来检测大型语言模型生成中的幻觉，结果表明这些指标在幻觉生成和非幻觉生成之间存在差异，我们进一步通过训练二分类器使用这些指标作为输入特征来将模型生成划分为幻觉和非幻觉，此二分类器的 AUROC 值达到 0.80，并且我们展示了先前的幻觉中的令牌可以预测随后的幻觉。

Dec, 2023

在这项研究中，我们正式定义了虚构，并提出了一种在零镜头环境中定量检测虚构的框架，利用我们的定义和模型输出包含任务和样本特定输入的假设。我们的解决方案在模型感知环境中实现了 0.78 的准确度，在模型无关环境中实现了 0.61 的准确度。值得注意的是，我们的解决方案保持了计算效率，比其他现有方法需要更少的计算资源，符合轻量化和压缩模型的趋势。

Mar, 2024

这项工作是关于使用生成性人工智能估计上下文学习（ICL）的幻觉率。我们开发了一种新方法，用于估计条件生成模型在 ICL 问题上生成幻觉的概率。我们在合成回归和自然语言 ICL 任务上对我们的方法进行了实证评估。

Jun, 2024