Oct, 2024

机器人蛇是否像电羊一样做梦？建筑归纳偏差对幻觉的影响研究

HTML
PDF
TL;DR本研究解决了大型语言模型在日常使用中存在的信息幻觉和计算限制之间的关联性问题。通过评估不同架构的归纳偏差对幻觉倾向的影响，发现模型架构可以显著影响幻觉的发生情况及其诱发难易程度。这一发现强调了需要同时深入理解这两个问题，并设计更通用的处理幻觉的技术。
发现论文，激发创造
  • 探索LLM幻觉与提示语言细微差别之间的关系: 可读性，形式性和具体性

    通过这项初步的探索性调查，我们研究了引导语言因素（特别是可读性、正式性和具体性）对幻觉出现的影响，实验结果表明，具有更大正式性和具体性的引导往往导致较少的幻觉出现，然而与可读性相关的结果并不确定，呈现了混合模式。

    Sep, 2023

  • 大型语言模型中幻觉的令人不安出现--广泛定义、量化和规范性改进

    通过细致分类和度、方向及类别上的倾向进行细粒度的幻视建模和缓解，我们提供了两个幻视方向（FM和SL）的全面理解，并将其进一步细分为内在和外在，分为温和、中度和令人担忧的三个严重程度，同时我们还对幻视进行了六种类型的细致分类。此外，我们还提供了包含75,000个样本和人工注释的HallucInation eLiciTation（HILT）数据集。最后，我们提出了Hallucination Vulnerability Index（HVI），该指数可以量化和评估语言模型在产生幻视方面的脆弱性，并作为人工智能相关政策制定的标准工具。

    Oct, 2023

  • 大型语言模型中的幻觉调查：原则、分类、挑战与开放问题

    在这份调查中，我们旨在对大型语言模型（LLM）幻像领域的最新进展进行全面而深入的概述。我们从LLM幻像创新分类入手，然后深入探讨了导致幻像的因素。接下来，我们全面介绍了幻像检测方法和基准。此外，我们还相应介绍了用于减轻幻像的代表性方法。最后，我们分析了突出当前限制的挑战，并制定了未来LLM幻像研究的开放问题，旨在描绘发展方向。

    Nov, 2023

  • 大型视觉语言模型中的幻觉调查

    通过综合调查，我们分析了大型视觉语言模型（LVLMs）中的幻觉问题，以建立一个概览并为未来的缓解工作提供帮助。调查包括对LVLMs中幻觉的概念澄清、幻觉症状的多样性及存在的挑战、以及评估LVLMs幻觉的基准和方法论的概述。此外，我们深入研究了这些幻觉的根本原因，包括对训练数据和模型组件的认知。我们还对缓解幻觉的现有方法进行了批判性回顾，并讨论了关于LVLMs中幻觉的未解问题和未来研究方向。

    Feb, 2024

  • 在LLMs中重新定义“幻觉”：朝着心理学指导的框架缓解错误信息

    通过基于认知偏见和其他心理现象的心理分类学，我们质疑将“幻觉”一词应用于大型语言模型，并利用人类内部解决类似挑战的见解来开发缓解LLMs幻觉的策略，为提高LLM的可靠性提供细致精确的理解和可操作的途径。

    Feb, 2024

  • 基于创造性视角的大型语言模型幻觉调查

    大型语言模型（LLM）中的幻觉被视为限制，但是它们是否也可能是创造力的源泉？本研究探讨了这个可能性，认为幻觉可能通过促进创造力来促进LLM应用。通过回顾幻觉的分类及其对LLM在关键应用中可靠性的负面影响的调查，本研究开始讨论幻觉在LLM中的潜在创造性益处，通过历史案例和最新相关理论，深入研究了幻觉在LLM中实现创造力的价值和评估标准。根据发散和收敛思维阶段的框架，本研究系统地回顾了利用LLM中的幻觉进行创造力转化和利用的文献。最后，本研究讨论了未来的研究方向，强调进一步探索和完善LLM中幻觉在创造过程中的应用的必要性。

    Feb, 2024

  • LLM内部状态揭示面对查询时的幻觉风险

    研究大型语言模型的幻觉问题如何通过自我感知估计幻觉风险，通过对神经元、激活层和令牌的研究，提出了一种探测器来实现语言模型的自我评估，试验结果表明其幻觉估计准确率达到84.32%。

    Jul, 2024

  • 探寻内在原因：为何LLMs产生幻觉的因果视角

    通过干预大型语言模型（LLMs）的自注意力层，我们发现在LLMs的前部或尾部禁用特定的自注意力层可以减轻幻觉问题，从而为理解和减轻LLMs的幻觉问题打开了一条新的途径。

    Jul, 2024

  • 机器人蛇是否像电羊一样做梦？研究架构归纳偏差对幻觉的影响

    本研究解决了大型语言模型（LLMs）在幻觉出现方面的可靠性和计算限制的问题，探索了架构归纳偏差如何影响幻觉的诱发。通过广泛评估，我们发现不同模型架构在幻觉出现的情况和诱发的难易程度上显著不同，这一发现提示需要同时考虑幻觉问题和架构设计，以优化应对幻觉的技术。

    Oct, 2024

  • 探讨提示和外部工具在大型语言模型幻觉率中的作用

    本研究针对大型语言模型（LLMs）产生幻觉的问题，进行了不同提示策略和框架的全面实证评估，旨在减少幻觉发生率。研究发现，最佳的提示技术取决于具体问题，简单的提示方法在降低幻觉率方面往往优于复杂方法。此外，外部工具的使用可能导致LLM代理出现显著更高的幻觉率。

    Oct, 2024