EMNLPOct, 2022

通过反事实样本研究从逻辑形式生成自然语言的鲁棒性

PDF
TL;DRLogic2Text 是为生成受表格和逻辑形式控制的、忠实的文本而设计的，要求进行深入的表格和逻辑形式理解，并对表格进行符号推理。该研究提出使用因果视角分析偏差，并提出一种使用逻辑形式的分层结构和对抗数据进行训练的方法以减轻该偏差的影响，从而发展出具有真正逻辑推理能力的逻辑生成模型。
发现论文，激发创造
  • Logic2Text: 从逻辑形式生成高保真自然语言

    本文旨在从逻辑形式出发，探讨基于结构化数据的自然语言生成，在介绍新数据集的同时，实验了多个生成模型并分析了它们的表现。

    Apr, 2020

  • 借助因果推理增强语言理解

    本研究提出了反事实推理模型，在学习少量反事实样本的基础上，通过生成对于每个正面事实样本的代表性反事实样本，并使用回顾模块根据对比反事实和正事实样本来检查模型预测，从而模拟对于困难测试样本的人类反事实思维。该方法在情感分析和自然语言推理方面的广泛实验验证了其有效性。

    Jun, 2021

  • 反事实推理：测试语言模型对假设场景的理解

    通过调查五种预训练语言模型在特殊条件下进行的逆向推理，发现这种逆向推理主要受到基于单词关联的影响，只有 GPT-3 能够展现对语言细微差别的敏感性。

    May, 2023

  • 逻辑形式控制下提升表格到文本生成的忠实度和多样性的 LoFT

    本文提出了一种利用逻辑形式实现内容计划的模型 LoFT，通过验证逻辑形式实现生成逻辑上准确，内容多样的逻辑文本生成，目前在 LogicNLG 数据集上是第一个同时解决准确性和多样性问题的模型。

    Feb, 2023

  • 柔性文本生成用于反事实公平探究

    本文介绍了一种使用大型语言模型生成对抗样本的方法，该方法克服了现有方法的局限性，能够产生复杂的对抗样本，并在 Civil Comments 数据集上比较了各种方法的性能和价值，并展示了其在评估毒性分类器方面的价值。

    Jun, 2022

  • PLOG：表格到逻辑预训练用于逻辑表格到文本生成

    通过提出预先训练逻辑形式生成器（PLOG）框架，该框架首先在表格生成逻辑形式的任务上进行了预训练，然后在下游的表格到文本任务上进行 fine-tuning，可以有效地提高表格到文本生成模型的逻辑水平。在两项基准测试中，PLOG 在逻辑水平上都优于现有的强基准线，证明了表格到逻辑形式预训练的有效性。

    May, 2022

  • 来自开放域表格的逻辑自然语言生成

    本研究探讨了一种新型的自然语言生成任务，在半结构化表格中，生成可逻辑推断的自然语言陈述，并提出了新的自动评估指标。探讨使用 LSTM、Transformer、预训练语言模型等方法及其算法的表现，并发现预训练语言模型可以将流畅性和逻辑发挥至最大。

    Apr, 2020

  • 使用有意义对照实验的交互式 LLMs 分析

    生成完整且有意义的文本反事实示例的新算法以及交互式可视化工具，用于分析和解释 LLMs。

    Apr, 2024

  • 自动逻辑形式提高表格到文本生成的准确性

    给定一个表格和内容的选择，TlT 首先生成逻辑形式（LFs），然后生成文本陈述，我们首次展示了自动的 LFs 如何提高质量，与不使用 LFs 的类似系统相比，其忠实度提高了 30 个点，我们的实验可以量化高度事实正确性的剩余挑战，内容的自动选择是首要问题，其次是更好的逻辑到文本生成，以及在较小程度上，更好的表格到逻辑解析。

    Oct, 2023

  • 用于跨语言评估的基于逻辑的语料库

    本文提出了一种新的语法任务集，专注于矛盾检测，并评估了递归模型和 BERT 网络。虽然 BERT 在大多数逻辑形式上具有更好的泛化效果，但在处理计数算子时仍有待改进，同时表明该语法任务可以在不同的语言中实现并实现跨语言传递学习。

    May, 2019