通过引入HaloCheck框架，本研究针对较弱的开源大语言模型BLOOM 7B，测量和减少其幻觉现象，并探索了知识注入和师生方法等技术，有效地减少了这些模型在具有挑战性领域中的幻觉。

Aug, 2023

通过与大规模语言模型和数据集合作，本文分析了医学生成型问答系统中幻觉现象的问题，并提出了一种交互自我反思的方法来解决该挑战，最终实验证明该方法在幻觉减少方面优于基线模型。

Oct, 2023

本文阐述了人工智能幻觉的根本原因及其在人工智能中的重要意义，并就幻觉分类进行了研究，包括机器翻译、问答系统、对话系统、摘要系统、基于大语言模型的知识图谱以及视觉问答等多个任务。同时，本研究探讨了缓解幻觉的潜在策略，旨在提高大语言模型的整体可靠性。该研究属于HeReFaNMi（Health-Related Fake News Mitigation）项目的一部分，该项目得到NGI Search的慷慨支持，旨在抑制互联网上健康相关虚假新闻的传播，致力于在不断演进的人工智能技术时代保护信息传播的完整性。

Nov, 2023

大型语言模型（LLM）生成的文本中存在幻觉现象，通过信息检索来减少幻觉数量，但仍存在各种原因导致幻觉产生。为了促进这个方向的研究，我们引入了一个复杂的数据集DelucionQA，用于捕捉检索增强LLM在特定领域的问答任务中所产生的幻觉，并提出了一系列幻觉检测方法作为未来研究的基准。分析和案例研究还提供了有关目标场景中幻觉现象的宝贵见解。

Dec, 2023

这篇论文综述了32种技术，旨在减轻大型语言模型中的幻觉问题，其中包括检索增强生成、知识检索、CoNLI和CoVe等方法，并提出了基于数据集利用、常见任务、反馈机制和检索器类型等参数的分类方法，以区分专门设计用于解决大型语言模型幻觉问题的各种方法。此外，还分析了这些技术中存在的挑战和局限性，为未来研究提供了坚实的基础。

Jan, 2024

我们提出了一种新的大型语言模型，能够自我评估是否能直接回答问题或需要请求外部工具。我们通过引入幻觉屏蔽机制的监督方法进行研究，并提出利用参数高效微调技术在少量数据上训练模型。我们的模型直接回答已知查询的问题，对于未知查询进行搜索，从而只在62%的时间内使用API。

Jan, 2024

这篇论文介绍了HalucQuestQA，它是第一个具有本地化错误注释的幻觉数据集，用于人类编写和模型生成的长篇问答答案。研究人员通过专家注解员，以及对698个问答对和4.7k个范围级别错误注释进行了五种不同错误类型的全面分析。他们训练了一个自动反馈模型，预测具有不完整信息的错误范围并提供相关解释。最后，他们提出了一种基于提示的方法，Error-informed refinement，利用从学习到的反馈模型中的信号来改进生成的答案，从而减少幻觉并提高答案质量。此外，人类发现我们的方法生成的答案全面且更受青睐（84%），相比基准答案。

Jul, 2024

本研究针对大型语言模型在医疗领域中幻觉现象的问题进行探讨，特别是其输出偏离事实准确性或上下文的情况。文章提出了一系列技术，如基于检索增强生成的技术、迭代反馈循环和监管微调，强调这些方法需要在医疗领域进行进一步的适应与优化，以提高临床决策和患者安全的准确性。

Aug, 2024

本研究解决了在生物医学领域中对信息准确性要求极高的问答系统中的幻觉问题。我们提出了一种新颖的方法，结合大型语言模型和知识图谱，通过查询检查器确保生成查询的语法和语义有效性，从而显著减少错误。研究表明，虽然GPT-4 Turbo在生成准确查询方面表现优异，但开源模型如llama3:70b在适当提示工程下也显示出潜力，这为问答系统提供了可靠且直观的解决方案。

Sep, 2024

本文针对大型语言模型在医疗问答系统中产生幻觉（即不准确或不可靠的响应）的问题，提出了HALO框架，旨在提高其准确性和可靠性。该框架通过生成多种查询变体并从外部知识库中检索相关信息，显著提升了开放源代码和商业大型语言模型的准确性，从而优化临床决策和患者护理。

Sep, 2024