Mar, 2024

决策基础模型中的幻象检测：一个灵活的定义和现有技术综述

PDF
TL;DR自主系统使用基础模型进行决策的应用方向非常有前途，然而基础模型往往存在产生不合理决策的问题，因此有必要设计系统来量化模型的决策确定性并检测模型产生幻觉的情况。本研究讨论了基础模型在决策任务中的当前应用案例，给出了幻觉的一般定义及示例，并探讨了幻觉检测和减轻的现有方法，同时探索了这个激动人心领域的进一步研究方向。
发现论文，激发创造
  • 决策基础模型：问题、方法与机遇

    本文检查了基于决策制定的基础模型的范围，并提供了理解问题空间和探索新研究方向的概念工具和技术背景。通过各种方法，例如提示、条件生成建模、规划、最优控制和强化学习，审查了将基础模型用于实际决策制定应用的最近方法，并讨论了该领域的常见挑战和开放问题。

    Mar, 2023

  • 揭示文本、图像、视频和音频基础模型中的幻觉：一项全面综述

    该综述论文通过综合横跨文本、图像、视频和音频等多种模态的最新进展，旨在提供对基于模态的基础模型中幻觉问题的识别和缓解的宝贵洞察，为研究人员、开发人员和实践者建立了一个明确的框架，包括定义、分类和检测策略，为这一关键领域的未来研究奠定了基础。

    May, 2024

  • 自动驾驶中的基础模型调查

    该研究综述介绍了基础模型在自动驾驶中的应用，探讨了其在规划、仿真、三维物体检测以及多模态模型方面的作用，并提供了基于模态和功能对基础模型的分类，同时指出了现有模型与创新自动驾驶方法之间的差距，并提出了填补这些差距的未来研究方向和路线图。

    Feb, 2024

  • 金融决策者无幻化生成人工智能解决方案的旅程

    通过原型设计、扩展和利用人类反馈对 LLMs 进行演化的三个阶段，以及本文中提出的新的数据生成模块，有助于确保生成式 AI 聊天机器人、自动报告和警报的可靠性和高质量，以支持关键的决策过程。

    Nov, 2023

  • AutoHall: 大型语言模型的自动幻觉数据集生成

    该论文提出了 AutoHall 方法，通过自相矛盾的方式自动构建模型特定的幻觉数据集，然后基于这些数据集实现了无资源和黑盒幻觉检测方法，对开源和闭源大型语言模型进行了实验证明，在幻觉检测性能上优于现有基准模型，并且发现了不同模型之间的幻觉比例和类型的差异。

    Sep, 2023

  • 大型基础模型中的幻觉调查

    在这篇综述论文中，研究了大型基础模型（LFMs）中幻觉问题的最新进展，包括幻觉现象的分类、评估标准以及减轻幻觉的策略和未来研究方向。

    Sep, 2023

  • 定义视觉新时代的基础模型：调查与展望

    视觉系统、基础模型、环境中的上下文推理、训练目标和计算机视觉的挑战和研究方向的综述。

    Jul, 2023

  • 基于感知的指导说明生成的幻觉检测

    我们研究了在模拟住宅环境中生成指导人类导航的问题。我们开发了一个模型，使用对图像 - 文本对进行预训练的模型，并通过对比损失进行微调，以检测生成的虚假指令。我们的最终模型优于几个基准模型，包括使用指令生成模型估计的词概率和基于 LSTM 和 Transformer 的监督模型。

    Oct, 2023

  • 关于事实问答中幻觉的早期检测

    我们通过探究模型生成的输入、输出和内部状态中的指标来检测大型语言模型生成中的幻觉，结果表明这些指标在幻觉生成和非幻觉生成之间存在差异，我们进一步通过训练二分类器使用这些指标作为输入特征来将模型生成划分为幻觉和非幻觉，此二分类器的 AUROC 值达到 0.80，并且我们展示了先前的幻觉中的令牌可以预测随后的幻觉。

    Dec, 2023

  • 通过自我反思来缓解大型语言模型中的幻想

    通过与大规模语言模型和数据集合作，本文分析了医学生成型问答系统中幻觉现象的问题，并提出了一种交互自我反思的方法来解决该挑战，最终实验证明该方法在幻觉减少方面优于基线模型。

    Oct, 2023