Jun, 2024

处理语义解析中的本体间隙

PDF
TL;DR该研究论文提出了基于闭域假设的神经语义解析（NSP）模型存在幻觉输出的问题，为此提出了幻觉模拟框架（HSF）用于刺激和分析 NSP 模型的幻觉，并通过计算图检测 NSP 模型的幻觉，改善了识别本体间隙的能力，提高了 F1-Score 约为 21%，并在给定链接上公开了代码和检查点。
neural semantic parsingclosed-world assumptionhallucinationhallucination simulation framework (hsf)hallucination detection
发现论文，激发创造
  • SLPL SHROOM 在 SemEval-2024 任务 06 中：模型检测幻觉能力的全面研究

    本研究探索了通过比较生成文本与事实参考之间的语义相似性以及互相评判的语言模型集成方法来检测虚构的方法，并指出了虚构检测的挑战以及进一步研究的必要性。

    Apr, 2024

  • 神经路径猎人：通过路径基础减少对话系统中的臆想

    本研究提出了一种生成 - 修正策略的模型 Neural Path Hunter ，利用知识图谱的 k-hop 子图修正神经对话模型生成的结果以提高结果的正确性，并在 OpenDialKG 数据集上进行了实验证明在信实度上有 20.35% 的相对提升。

    Apr, 2021

  • 语义熵探针：在 LLMs 中稳健且经济的幻觉检测

    我们提出了语义熵探针 (SEPs)，这是一种在大型语言模型 (LLMs) 中用于量化不确定性的廉价可靠方法。

    Jun, 2024

  • AILS-NTUA 参加 SemEval-2024 任务 6: 高效模型调优用于幻觉检测和分析

    我们在 SemEval-2024 的 Hallucinations 和相关可观察生成错误的任务上提交了 SHROOM，要求进行流畅过度生成幻觉的二元分类。通过微调预训练模型和自然语言推理模型，并将这些模型进行集成，取得了 77.8% 和 79.9% 的准确率，相较于比赛中的顶尖结果 84.7% 和 81.3% 具有显著优势。

    Apr, 2024

  • 零样本多任务幻觉检测

    在这项研究中，我们正式定义了虚构，并提出了一种在零镜头环境中定量检测虚构的框架，利用我们的定义和模型输出包含任务和样本特定输入的假设。我们的解决方案在模型感知环境中实现了 0.78 的准确度，在模型无关环境中实现了 0.61 的准确度。值得注意的是，我们的解决方案保持了计算效率，比其他现有方法需要更少的计算资源，符合轻量化和压缩模型的趋势。

    Mar, 2024

  • 利用语义重建缓解视觉语言模型中的幻像

    通过准确定位和惩罚产生错觉的标记，ESREAL 提出了一种新颖的无监督学习框架，以抑制视觉 - 语言模型在生成长字幕时的幻觉，通过分析图像本身的信号实现减少错觉的目标。

    Mar, 2024

  • 对话系统中事实幻觉模式的深入探究

    该研究通过人工反馈分析，提出了一种针对知识图谱 (Knowledge Graph) 聊天机器人中存在的事实幻觉问题的实体级幻觉检测系统，并创建了 FADE 合成数据集，用于与已建立的基准进行比较。

    Jan, 2023

  • 检测条件神经序列生成中产生的虚假内容

    本文介绍了一种使用预训练模型和人工标注数据来检测神经序列模型输出中的虚构内容，并在机器翻译和摘要生成等任务中获得显著效果的方法。

    Nov, 2020

  • 关于事实问答中幻觉的早期检测

    我们通过探究模型生成的输入、输出和内部状态中的指标来检测大型语言模型生成中的幻觉，结果表明这些指标在幻觉生成和非幻觉生成之间存在差异，我们进一步通过训练二分类器使用这些指标作为输入特征来将模型生成划分为幻觉和非幻觉，此二分类器的 AUROC 值达到 0.80，并且我们展示了先前的幻觉中的令牌可以预测随后的幻觉。

    Dec, 2023

  • 通过模型内省理解和检测神经机器翻译中的幻觉

    通过分析相对标记的贡献来确定神经序列生成模型的幻觉内在模型症状，使用这些症状设计出一个轻量级的幻觉检测器，在手动标注的英中和德英翻译测试上优于基于质量估计或大型预训练模型的分类器。

    Jan, 2023