BriefGPT.xyz
Oct, 2023
基于感知的指导说明生成的幻觉检测
Hallucination Detection for Grounded Instruction Generation
HTML
PDF
Lingjun Zhao, Khanh Nguyen, Hal Daumé III
TL;DR
我们研究了在模拟住宅环境中生成指导人类导航的问题。我们开发了一个模型，使用对图像-文本对进行预训练的模型，并通过对比损失进行微调，以检测生成的虚假指令。我们的最终模型优于几个基准模型，包括使用指令生成模型估计的词概率和基于LSTM和Transformer的监督模型。
Abstract
We investigate the problem of generating
instructions
to guide humans to navigate in simulated
residential environments
. A major issue with current models is
→