Nov, 2023

分类和减轻LLMs的幻觉的洞察力

HTML
PDF
TL;DR本文阐述了人工智能幻觉的根本原因及其在人工智能中的重要意义，并就幻觉分类进行了研究，包括机器翻译、问答系统、对话系统、摘要系统、基于大语言模型的知识图谱以及视觉问答等多个任务。同时，本研究探讨了缓解幻觉的潜在策略，旨在提高大语言模型的整体可靠性。该研究属于HeReFaNMi（Health-Related Fake News Mitigation）项目的一部分，该项目得到NGI Search的慷慨支持，旨在抑制互联网上健康相关虚假新闻的传播，致力于在不断演进的人工智能技术时代保护信息传播的完整性。
发现论文，激发创造
  • 认知幻象：大型语言模型中幻觉的综述

    研究总结了最近对大型语言模型中的幻觉现象的有趣见解，提出了一个包含各种文本生成任务中幻觉的新颖分类法，以及理论洞察、检测方法和改进方法，并提出了若干未来的研究方向。

    Sep, 2023

  • 大型语言模型中的幻觉调查：原则、分类、挑战与开放问题

    在这份调查中，我们旨在对大型语言模型（LLM）幻像领域的最新进展进行全面而深入的概述。我们从LLM幻像创新分类入手，然后深入探讨了导致幻像的因素。接下来，我们全面介绍了幻像检测方法和基准。此外，我们还相应介绍了用于减轻幻像的代表性方法。最后，我们分析了突出当前限制的挑战，并制定了未来LLM幻像研究的开放问题，旨在描绘发展方向。

    Nov, 2023

  • DelucionQA: 领域特定问答中的幻觉检测

    大型语言模型（LLM）生成的文本中存在幻觉现象，通过信息检索来减少幻觉数量，但仍存在各种原因导致幻觉产生。为了促进这个方向的研究，我们引入了一个复杂的数据集DelucionQA，用于捕捉检索增强LLM在特定领域的问答任务中所产生的幻觉，并提出了一系列幻觉检测方法作为未来研究的基准。分析和案例研究还提供了有关目标场景中幻觉现象的宝贵见解。

    Dec, 2023

  • 不要完全相信所读之事：通过对大型语言模型中幻觉的自动识别来增强摘要解释性

    这篇论文通过深入探讨大型语言模型在幻觉方面的行为，定义了一种基于标记的方法以识别不同类型的幻觉，并进一步利用这种标记方法提高对话摘要任务中语言模型的可解释性和忠实度，同时提出了一个新的改进数据集和训练范式。

    Dec, 2023

  • 大型语言模型中幻觉缓解技术的综合调查

    这篇论文综述了32种技术，旨在减轻大型语言模型中的幻觉问题，其中包括检索增强生成、知识检索、CoNLI和CoVe等方法，并提出了基于数据集利用、常见任务、反馈机制和检索器类型等参数的分类方法，以区分专门设计用于解决大型语言模型幻觉问题的各种方法。此外，还分析了这些技术中存在的挑战和局限性，为未来研究提供了坚实的基础。

    Jan, 2024

  • 在LLMs中重新定义“幻觉”：朝着心理学指导的框架缓解错误信息

    通过基于认知偏见和其他心理现象的心理分类学，我们质疑将“幻觉”一词应用于大型语言模型，并利用人类内部解决类似挑战的见解来开发缓解LLMs幻觉的策略，为提高LLM的可靠性提供细致精确的理解和可操作的途径。

    Feb, 2024

  • 探寻内在原因：为何LLMs产生幻觉的因果视角

    通过干预大型语言模型（LLMs）的自注意力层，我们发现在LLMs的前部或尾部禁用特定的自注意力层可以减轻幻觉问题，从而为理解和减轻LLMs的幻觉问题打开了一条新的途径。

    Jul, 2024

  • 朝着可靠的医学问答：缓解语言模型幻觉的技术与挑战

    本研究针对大型语言模型在医疗领域中幻觉现象的问题进行探讨，特别是其输出偏离事实准确性或上下文的情况。文章提出了一系列技术，如基于检索增强生成的技术、迭代反馈循环和监管微调，强调这些方法需要在医疗领域进行进一步的适应与优化，以提高临床决策和患者安全的准确性。

    Aug, 2024

  • THaMES：一个用于减轻和评估大型语言模型幻觉的端到端工具

    该研究解决了大型语言模型中幻觉问题，即生成不准确内容的挑战，并指出现有方法的不足。论文提出THaMES，一个综合框架，能够自动生成测试集并评估幻觉的减轻效果，通过多种策略优化模型能力，结果表明商用模型在特定情况下更依赖不同的减轻策略，且参数高效微调显著提升模型表现。

    Sep, 2024

  • MedHalu：大型语言模型对医疗查询的幻觉反应

    本研究针对大型语言模型（LLMs）在医疗相关查询中产生的幻觉现象进行首次深入探索，识别了LLMs在处理健康问题时生成的不真实信息。我们提出了MedHalu，一个创新的医疗幻觉数据集，并引入MedHaluDetect框架评估LLMs检测幻觉的能力，结果表明LLMs在该方面明显不如医学专家。通过引入专家智慧来提升幻觉检测的效果，我们的研究为提高医疗应用领域LLMs的可靠性提供了重要见解。

    Sep, 2024