ACLSep, 2023

关于归纳性自然语言推理的自洽叙述提示

PDF
TL;DR本文针对故事理解和自然语言推理中的演绎问题，提出了一种考虑自洽性和句间连贯性的模型，并通过大量的实验和剖析研究来证明其必要性和有效性。该方法在与竞争基线模型的比较中表现出显著的改进。
abductionnarrative comprehensionnatural language inferenceself-consistencyinter-sentential coherence
发现论文，激发创造
  • 基于案例推导的自然语言推理

    本文提出了一种基于使用类比方法从类似示例中进行先前的解释传递的情形推理及案例推理自然语言推理模型，即 Case-Based Abductive Natural Language Inference (CB-ANLI)，并在常识和科学问答任务上进行了实证评估，结果表明，CB-ANLI 可以有效地与稀疏和密集的预训练编码器集成以改善多次跳跃推理，或作为变压器的证据检索器。 此外，对语义漂移的实证分析表明，CBR 范式提高了最具挑战性的解释的质量，这一特性对下游推理任务的稳健性和准确性具有直接影响。

    Sep, 2020

  • 语言模型是否能够执行假设式常识推理？

    本文为解决 “Abductive Reasoning” 提出了多种方法，再现了基准模型。通过此报告，发现目前的方法仍有一些局限性。

    Jul, 2022

  • 归纳常识推理

    本研究介绍了一项关于抽象推理的新研究，并提出了两个基于新数据集 ART 的任务 ——《抽象自然语言推理》和《抽象自然语言生成》。 该研究分析了当前最佳自然语言生成器的性能水平，探索了现有深度学习模型在推理能力方面的局限性，并在进一步的研究中提出了有趣的新方向。

    Aug, 2019

  • 助产提示：具有递归解释的逻辑一致推理

    本文提出了一种名为 Maieutic Prompting 的方法，使用基于树的解释模型从写作不准确的大型语言模型中恢复正确的答案，在三个具有挑战性的基准测试上表现出比最先进的提示方法高达 20％的准确性，并且作为完全无监督的方法，表现出和有监督模型相当的性能。

    May, 2022

  • 利用自然语言推理生成人物一致的对话

    利用自然语言推断技术探讨生成持续一致人格的对话，提出基于强化学习框架使用从响应 - 人格对得到的自然语言推断信号作为奖励来生成至关一致的对话，并通过对话者的关注机制编码器 - 解码器来生成基于人格的响应，使用对抗训练的自然度模块和基于自然语言推断的一致性模块来评估生成的响应的一致性，实验表明该方法优于强大的生成基线，特别是在生成响应的人格一致性方面。

    Nov, 2019

  • 对话自然语言推理

    这篇论文将对话代理的一致性作为自然语言推理 (NLI) 的任务，并创建了一个名为 Dialogue NLI 的自然语言推理数据集。通过在该数据集上训练模型，提出了一种方法来改善对话模型的一致性，用人类评估和自动指标在一套设计用来衡量对话模型一致性的评估集上进行了评估。

    Nov, 2018

  • 自洽性提高语言模型的思维连贯性推理能力

    本文提出了一种新的解码策略 self-consistency 来替代自我解释式激励中的贪心解码，从而在多种常识推理基准测试中提高其性能。

    Mar, 2022

  • 保持中立：使用自然语言推断改进生成

    本研究探讨了把自然语言推理（NLI）整合到文本生成管道中的方法，使用预训练的 NLI 模型评估生成的句子是否与提示和前文相符、矛盾或中立。最终结果表明，NLI 策略最大化中立类提高了生成文本的质量，而不是其他两种策略，无论参数值如何，该策略都比普通生成的文本质量更高。

    Feb, 2023

  • PDD：基于提示和动态演示的少样本自然语言推断生成

    在少样本情况下，本文提出了一种带提示和动态演示的语言模型（LM-PDD）来解决自然语言推理生成任务问题，该方法在 SNLI 和 MNLI 数据集上比标准微调模型有着 8% 的平均绝对改进，并且在 13 种自然语言分类任务上表现良好，可以用于数据增强和可控文本生成。

    May, 2022

  • 非派生子序列对自然语言推理的挑战

    本文介绍一个挑战集用以测试 NLI 系统是否使用了一个启发式方法：假设一个句子包括了其所有子序列，如 “Alice 相信 Mary 在说谎” 就包括了 “Alice 相信 Mary” 等。作者评估了几个有竞争力的 NLI 模型并发现了有力的证据说明它们确实依赖于子序列启发式方法。

    Nov, 2018