Feb, 2021

在数据到文本生成中控制单词级别的幻觉

PDF
TL;DR通过使用多分支解码器，结合基于共现分析和依存解析的简单高效的评分过程，针对 Data-to-Text Generation 的问题 ——Hallucinations 作出了研究，成功地减少了 Hallucinations，同时保持生成文本的流畅性和连贯性。
data-to-text generationneural-based generatorsmulti-branch decoderhallucinationsfluency
发现论文，激发创造
  • 可控幻觉：从嘈杂数据学习如何生成忠实的输出

    本文介绍了在进行神经文本生成时，由于数据量不足，导致模型对于噪声的过度敏感，从而完成了对于 “幻觉” 生成文本的控制，通过该方法对 WikiBio 语料库进行测试，证明了其在人工和自动评估中的高效性。

    Oct, 2020

  • 坚持事实：自信解码实现忠实数据到文本生成

    本文针对数据到文本生成中存在的幻觉问题，提出通过引入自信度分数及变分贝叶斯训练框架来防止生成不受原数据支持的文本，实验结果表明该方法比现有最先进的方法更加忠实于原始数据，并在 WebNLG 数据集上取得强大的表现。

    Oct, 2019

  • 批评驱动解码以减轻数据到文本生成中的幻觉

    本文提出一种新方法，通过将生成器语言模型的概率输出与特殊的 “文本评论家” 分类器的输出结合起来，以评估输入数据与生成的文本之间的匹配程度，从而减轻神经数据到文本生成中的文字幻觉。实验证明，该方法对 WebNLG 和 OpenDialKG 基准具有改进效果。

    Oct, 2023

  • 自然语言生成中幻觉的调查

    本文综述了关于深度学习在自然语言生成中出现幻觉问题的度量、缓解方法和未来方向，以及针对抽象摘要、对话生成、生成式问答、数据到文本生成、机器翻译和视觉语言生成的幻觉问题的任务特定研究进展。

    Feb, 2022

  • 基于信息论的视频对话文本幻觉减少

    该研究设计了一种文本幻觉缓解框架（THAM），并通过当前的对话系统运用该框架验证了其在基准测试（即 AVSD @ DSTC7 和 AVSD @ DSTC8）上对 Video-grounded 对话的有效性和提高的解释性。

    Dec, 2022

  • 基于令牌级别的无参考幻象检测基准测试 —— 自由形式文本生成

    该研究提出了一种基于 token 级别的、无参考幻觉检测任务以及相应的 HaDes 数据集，旨在解决预训练生成模型的幻觉问题，并通过迭代模型策略来减轻标签不平衡问题。

    Apr, 2021

  • 检测条件神经序列生成中产生的虚假内容

    本文介绍了一种使用预训练模型和人工标注数据来检测神经序列模型输出中的虚构内容，并在机器翻译和摘要生成等任务中获得显著效果的方法。

    Nov, 2020

  • 文本生成之前先对齐！一种减轻文本转 SQL 生成中虚假现象的新颖有效策略

    大型语言模型（LLMs）驱动的上下文学习（ICL）显著提高了文本到 SQL 的性能，本研究通过识别和分类每个阶段中的幻象，并引入任务对齐（TA）策略，成功减轻了幻象，进而提出基于该策略的文本到 SQL 框架 TA-SQL，实验证明其有效性和鲁棒性。

    May, 2024

  • 零样本多任务幻觉检测

    在这项研究中，我们正式定义了虚构，并提出了一种在零镜头环境中定量检测虚构的框架，利用我们的定义和模型输出包含任务和样本特定输入的假设。我们的解决方案在模型感知环境中实现了 0.78 的准确度，在模型无关环境中实现了 0.61 的准确度。值得注意的是，我们的解决方案保持了计算效率，比其他现有方法需要更少的计算资源，符合轻量化和压缩模型的趋势。

    Mar, 2024

  • 基于感知的指导说明生成的幻觉检测

    我们研究了在模拟住宅环境中生成指导人类导航的问题。我们开发了一个模型，使用对图像 - 文本对进行预训练的模型，并通过对比损失进行微调，以检测生成的虚假指令。我们的最终模型优于几个基准模型，包括使用指令生成模型估计的词概率和基于 LSTM 和 Transformer 的监督模型。

    Oct, 2023