EMNLPOct, 2020

从维基百科分类中挖掘自然语言推理知识

PDF
TL;DR使用自然标注的维基百科类别层次结构构建的 428,899 个短语对构成的 WikiNLI 资源，通过对 BERT 和 RoBERTa 进行预训练和模型迁移，证明可以最大限度地提高模型在自然语言推理和词汇蕴含方面的表现并在其他语言中表现良好。
发现论文，激发创造
  • 探究预训练和知识增强模型在自然语言推理中的应用的多个实验

    该研究探索了无监督预训练和外部知识对自然语言推断任务的影响，以了解其如何帮助自然语言理解和解决 NLP 问题。

    Apr, 2019

  • 利用领域外知识提升科学问题领域自然语言推断

    本文提出了一种运用知识图谱的结合方法来提高自然语言推理问题（NLI）领域中性能的技术，该技术在文本、图形和文本到图形的模型上均取得了最新的最优表现，并讨论了外部知识在解决 NLI 问题中的实际意义。

    Sep, 2018

  • 通过 NLI 微调改进领域特定检索

    该论文研究了自然语言推断数据的微调潜力，以提高信息检索和排名的效果，并通过使用来自波兰最大的电子商务网站和选定的开放领域数据，对英语和波兰语进行了验证。结果显示，使用对比损失和 NLI 数据进行微调可以提高模型在不同任务和语言方面的性能，并且有潜力改善单语和多语模型。最后，研究了嵌入向量的一致性和对齐性，以解释基于 NLI 的微调在域外应用中的效果。

    Aug, 2023

  • 一种无需特定语言训练数据的深度自然语言推理预测器

    我们提出了一种 NLP 技术，利用通用翻译数据集和知识蒸馏技术，通过两个预训练模型在源语言和目标语言上的表现实现了目标语言的句子关系推理，该技术在多个任务上展现了普适性。

    Sep, 2023

  • WANLI: 工人与人工智能合作创建自然语言推理数据集

    通过使用自然语言生成技术和人工智能协作来创造数据集，以及使用 WANLI 数据集训练模型取得了较高精度，具有以下关键词：众包、NLP 数据集、数据集创作、人工智能、自然语言推理

    Jan, 2022

  • 维基百科文章的链接预测作为自然语言推理任务

    本文介绍了一种以自然语言推理为基础的链接预测方法，将链接预测任务应用于维基百科文章，并在 Data Science and Advanced Analytics 2023 竞赛中取得了优异成绩。

    Aug, 2023

  • DocNLI: 一个大规模的文档级自然语言推理数据集

    介绍了 DocNLI 数据集，它是基于广泛的 NLP 问题构建的，涵盖了文本的多种类型和文档层级上的 NLI，而不是仅仅句子层级上的。实验表明，即使没有微调，预训练于 DocNLI 上的模型在流行的句子级基准测试中表现良好，并且推理到文档层级上的跨域 NLP 任务具有良好的泛化性能。

    Jun, 2021

  • 自然语言推理（NLI）在需求工程任务中的应用经验

    我们研究了自然语言推理 (NLI) 在自动化需求工程任务中的应用。我们集中在需求分类、需求规范缺陷的识别以及利益相关者需求冲突的检测三个任务。通过在不同学习设置下进行的实验，我们明确证明了我们的 NLI 方法在需求规范分析方面超越了传统的 NLP 方法以及基于大型语言模型和聊天机器人模型的其他方法。此外，我们分享了在学习设置方面的经验教训，使 NLI 成为自动化需求工程任务的合适方法。

    Apr, 2024

  • 出租车自然语言理解之路

    本文通过提出一个有关自然语言文本蕴含任务中分类的分类法以及构建一个带有该分类法的数据集 TAXINLI，研究预训练模型在不同类型蕴含问题上的表现，并发现了当前模型和数据集的不足之处。

    Sep, 2020

  • 不确定的自然语言推断

    本文介绍了不确定的自然语言推断（UNLI），它是自然语言推断（NLI）的一种改进，通过预测主观概率评估来预测结果，利用概率评估重新标记了部分 SNLI 数据集，并使用现有的分类标签化的 NLI 数据进行预训练，最终模型展示了超越分类标签化的 NLI 任务的更微妙推断的人类表现水平。

    Sep, 2019