ACLApr, 2020

逻辑引导的数据增强和正则化技术，用于一致性问答

PDF
TL;DR本文通过整合逻辑规则和神经模型，使用基于一致性的正则化来提高问答任务中对比问题的响应的准确性和一致性，该方法在各种问题回答（QA）任务中获得大幅提高。特别是，在数据集中，我们的方法使 RoBERTa 模型的性能提高了 1-5％，，并在 WIQA 和 QuaRel 上将现有技术水平提高了约 5-8％，在 HotpotQA 上减少一致性违规 58％。同时，我们进一步证明了我们的方法可以从有限的数据中有效地学习。
发现论文，激发创造
  • 大规模语言模型对于超领域逻辑推理任务的系统评估

    大型语言模型在逻辑推理任务中的泛化性和鲁棒性评估及改善的研究。

    Oct, 2023

  • 基于逻辑驱动数据增强的对比学习，用于文本推理

    该论文提出了基于 AMR-LE 方法的数据增广技术，并使用对比学习训练语言模型，可以在多个 NLP 任务中提高性能表现，包括 ReClor，LogiQA，MNLI，MRPC，RTE，QNLI 和 QQP。

    May, 2023

  • 半结构化表格问答的神经多步推理

    本文研究使用深度学习技术回答多步推理问题的方法，该方法基于自然语言问句生成机器可理解的逻辑形式，使用字符和单词 CNN 同时嵌入逻辑形式和问句，并使用神经评分函数检索问题的最可能逻辑形式，取得 38.7% 的最佳性能。

    Feb, 2017

  • QA-NatVer: 自然逻辑为基础的事实验证的问答

    使用问题回答预测自然逻辑运算符，不依赖标注数据、具有确定性推理系统的方法，在少样本设置下，在 FEVER 上的准确度比最佳基线提高了 4.3 个百分点，并且在丹麦验证数据集上超过了所有其他方法，展示了系统的鲁棒性和可移植性，通过人工评估得出结论：相较于之前的基于自然逻辑的系统，我们的方法产生了更可信的证据，并且使用更少错误的自然逻辑运算符。

    Oct, 2023

  • 逻辑驱动的上下文扩展和数据增强用于文本逻辑推理

    本研究提出了一种理解文本中逻辑符号和表达式以得出答案的方法，并基于此提出了一种扩展文本上下文的框架和一种数据增广算法，可以更好地捕捉逻辑信息，特别是关于逻辑否定和条件关系，结果表明这种方法在 ReClor 数据集上实现了最先进的性能，多模型集成系统是第一个在 ReClor 的 EASY 和 HARD 数据集上超过人类表现的系统。

    May, 2021

  • 通过导出问题生成改善 VQA 中的回答一致性

    本研究提出了一种方法，通过引入一个名为 ConVQA 的数据集和度量标准，量化衡量视觉问答（VQA）模型的一致性，并建立了一种名为一致性教师模块（CTM）的数据增强模块，该模块可以自动增强源 QA 对的语义相关问题，从而优化 VQA 的一致性。在 ConVQA 数据集上的实验结果表明，我们的方法可以提高现有 VQA 模型的一致性表现。

    Sep, 2019

  • 从词汇扰动中学习，以实现一致的视觉问答

    本文提出了一种使用模块化网络来改善视觉问答模型鲁棒性的方法，以及提出了一个包含大规模语言资源的低成本基准测试，我们的结果表明，对于 VQA 模型的训练和正则化，控制下的语言扰动是一种有用的但当前未充分利用的工具。

    Nov, 2020

  • 语义抽象的全局推理问答

    提出了一种利用文本的语义结构来回答多项选择题的新方法，将 QA 转化为一种满足某些全局和局部特性的最优子图的搜索问题，在科学 QA 数据集上表现良好。

    Jun, 2019

  • 利用逻辑推理和相关性评分进行检索增强型神经生成回应

    使用概率逻辑编程推演引入逻辑事实，结合基于检索的语言模型和逻辑推理的知识生成响应的新方法，在任务导向的对话系统中提高了回应的准确性和流畅性。

    Oct, 2023

  • 面向任务的对话系统的逻辑推理

    本篇论文提出了一种基于预训练的 Transformer 模型 fine-tune 的方法，使之具备在对话语境中进行逻辑推理和回答问题的能力，而无需额外的训练数据集。研究结果表明，该模型在已训练属性上能够达到 90% 以上的精度，在适当的对话语境下能够提取出适当的限制条件传递给下游组件 (e.g. 知识库)。

    Feb, 2022