Dec, 2023

朝着可验证的文本生成：演进记忆与自我反思

PDF
TL;DR该论文介绍了一种创新的可验证文本生成方法，利用演化记忆和自我反思进行文本生成。该方法通过保持演化的长短期记忆来保存有价值和最新的文档，利用主动检索和多样化查询生成来增强检索文档的精度和范围，并通过两层的验证器和证据查找器来反思和思考论点与引用之间的关系。在五个数据集上进行了广泛实验，结果表明该方法明显优于现有基准。
large language modelsverifiable text generationfocus-shifting phenomenondocument retrievalknowledge-intensive tasks
发现论文，激发创造
  • LLatrieval: LLM - 验证的检索用于可验证的生成

    本研究提出了 LLatrieval（Large Language Model Verified Retrieval），在此模型中，大型语言模型通过更新检索结果来验证检索到的文档是否能够支持回答问题，从而使语言模型能够通过迭代地向检索提供反馈，以确保检索结果能够充分支持可验证的生成。实验结果表明，我们的方法明显优于广泛的基准，并取得了最新的研究成果。

    Nov, 2023

  • 朝可证实的文本生成方向前进：带有符号引用

    该论文提出了符号基于生成（SymGen）的方法，通过与条件数据中的显式符号引用交替输出文本，实现对大语言模型（LLMs）输出文本的验证和溯源，从而减少人工验证的工作量，同时保持流畅和准确。

    Nov, 2023

  • KG-CTG：基于知识图谱引导的大型语言模型的引文生成

    本篇论文介绍了一个基于大型语言模型的引文生成任务的框架，并通过比较研究展示了将知识图谱关系纳入模型输入以提高其表现的结果。

    Apr, 2024

  • 基于 LLM 的引文增强生成技术的聊天机器人

    我们提出了一种新颖的后置 extbf {引用增强生成（ extbf {CEG}）} 方法，结合检索论证。与先前的研究不同，我们的方法并不着重于在生成过程中防止幻觉，而是采用后置方式解决这个问题。我们的模型包括一个检索模块，用于搜索与生成内容相关的支持文档，并采用基于自然语言推理的引文生成模块。如果生成内容中的陈述缺乏参考文献，我们的模型可以重复生成回复，直到所有陈述都有引文支持。在各种与幻觉相关的数据集上的实验证明，我们的框架在幻觉检测和回复重构两个基准上优于现有方法。我们的代码和数据集将公开提供。

    Feb, 2024

  • 通过实时验证和修正来减轻大型语言模型中的虚构问题

    我们介绍了一种名为 Ever 的新方法，通过实时检验和矫正策略，解决大语言模型生成的不准确或虚构内容的问题，并在各种任务中，包括短问题回答、传记生成和多跳推理等方面，相比基于检索和非检索的基准模型，明显提高了生成值得信赖和事实准确的文本的能力。

    Nov, 2023

  • 可验证的生成带有子句级细粒度引用

    研究通过子句级别细粒度引文进行可验证生成，以精确定位引文支持的内容，并提出 SCiFi 数据集和长文档处理对模型性能的影响。

    Jun, 2024

  • 增强语境的语言模型用于生成多篇论文引用

    基于大型语言模型的引文生成方法，旨在解决单段落引文生成的挑战，研究通过整合多个目标论文与单个源论文，生成包含多个句子引文文本的连贯段落。同时，通过将目标论文的知识图谱整合到生成引文文本的提示中实现了更好的性能，这一研究揭示了利用大型语言模型进行引文生成的潜力，为探索科学文档之间的复杂连接打开了一个引人注目的途径。

    Apr, 2024

  • 知识增强的语言模型验证

    通过使用独立验证器处理语言模型的输出和知识，本研究提出了一种验证方法，以解决语言模型在生成文本时可能存在的错误。结果表明，该验证器可以有效地识别检索和生成错误，使语言模型能够提供更准确的结果。

    Oct, 2023

  • 通过文本生成解决视觉驱动对话中的引用

    通过对话互动生成确切描述来增强视觉引导对话中视觉语言模型（VLMs）的话语处理能力，并使用预训练的 VLMs 在零样本情况下识别参照物，从而提高了参照的准确性和效果。

    Sep, 2023

  • 通过动态知识选择优化文本生成的事实准确性

    DKGen 将文本生成过程划分为迭代过程，通过动态选择相关性高的参考段落，消除与先前生成的文本和查询无关的引用，从而增强了它正确使用外部知识的能力。实验结果表明，DKGen 优于所有基准模型。

    Aug, 2023