Nov, 2023

朝可证实的文本生成方向前进：带有符号引用

PDF
TL;DR该论文提出了符号基于生成（SymGen）的方法，通过与条件数据中的显式符号引用交替输出文本，实现对大语言模型（LLMs）输出文本的验证和溯源，从而减少人工验证的工作量，同时保持流畅和准确。
large language modelshallucinationssymbolically grounded generationprovenancefluency and accuracy
发现论文，激发创造
  • 使用大型语言模型生成符号语言数据

    本篇论文提出 SymGen，一种使用 LLMs 生成注释昂贵的符号语言数据的方法。与 LLMs 相比，SymGen 可以生成与人类注释数据效果相当或更好的数据，同时节省了大量的注释工作量。

    May, 2023

  • 朝着可验证的文本生成：演进记忆与自我反思

    该论文介绍了一种创新的可验证文本生成方法，利用演化记忆和自我反思进行文本生成。该方法通过保持演化的长短期记忆来保存有价值和最新的文档，利用主动检索和多样化查询生成来增强检索文档的精度和范围，并通过两层的验证器和证据查找器来反思和思考论点与引用之间的关系。在五个数据集上进行了广泛实验，结果表明该方法明显优于现有基准。

    Dec, 2023

  • 基于符号规划和代码生成的实地对话

    使用大型语言模型与符号规划器和基于代码执行的系统组成的模块化可解释的对话系统，在处理任务导向对话中解决了大型语言模型难于引导到任务目标和处理新颖基础的问题，并在具有抽象散点图的协作参考解决任务中显著优于之前的最新技术，包括在最具挑战性的情境中将人工评估的任务成功率从 56% 提高到 69%。

    Oct, 2023

  • Symbol-LLM: 面向大型语言模型的基础符号中心化界面

    Symbol-LLM 系列模型通过收集各种符号任务并注入符号知识，解决了大型语言模型面临的符号间关系和符号中心与自然语言中心能力平衡的挑战，实验结果表明 Symbol-LLM 系列模型在符号和自然语言任务上具有平衡和优越的性能。

    Nov, 2023

  • 使用超图表示的合成文本生成

    使用基于超图的方法生成语义框架，通过变换框架内容生成多样、连贯、风格、情感、格式、结构和事实都有变化的文档。

    Sep, 2023

  • 大型语言模型作为一致的故事可视化器

    StoryGPT-V 使用潜在扩散和大语言模型的优点，生成具有一致且高质量角色的图像，通过解决指代消解和对上下文的理解来提高生成准确性和忠实度。模型在视觉故事可视化上表现优异，并具有较低的内存消耗。

    Dec, 2023

  • 大型语言模型是神经符号推理器

    该论文研究了大型语言模型作为符号推理器的潜在应用，提出了一个针对符号挑战和实现游戏目标的 LLM 代理，并通过实验结果证明了其能显著增强 LLMs 作为符号推理自动化代理的能力，对涉及符号任务的基于文本的游戏取得了 88% 的平均性能。

    Jan, 2024

  • 通过文本生成解决视觉驱动对话中的引用

    通过对话互动生成确切描述来增强视觉引导对话中视觉语言模型（VLMs）的话语处理能力，并使用预训练的 VLMs 在零样本情况下识别参照物，从而提高了参照的准确性和效果。

    Sep, 2023

  • 神经符号推理用于规划：通过大型语言模型和可满足性求解的反例引导归纳合成

    使用方便的自然语言进行交流，结合生成式大型语言模型和可满足模理论求解器，可以生成可验证的正确解决方案。

    Sep, 2023

  • 解锁预期文本生成：一种受限方法用于大型语言模型的忠实解码

    通过将文本生成问题形式化为未来约束生成问题，以最小化不良行为并确保指令的忠实执行，本文介绍了利用 LLM 的未来约束满足估计来指导文本生成过程的方法，并通过对关键词受限生成、有害性降低和问答中的事实正确性等三个不同的文本生成任务进行了广泛的实验，证明了该方法的有效性。

    Dec, 2023