EMNLPOct, 2022

R$^2$F: 一个面向文档级自然语言推理的通用检索、阅读和融合框架

PDF
TL;DR本论文提出了 R2F 框架来解决 DOCLNI 的主要挑战：可解释性、长跨度依赖和跨句子推理，并支持多样化的证据检索方法，为每个假设语句从前提中检索出相应的证据语句并进行可信度评估，最后将句子级的结果融合来判断文档之间的关系，实验结果表明 R2F 框架可以获得最先进的性能，而且可以给出更可解释的预测结果。
docnlinatural language processingr2f frameworkevidence retrievalinterpretability
发现论文，激发创造
  • 基于大语言模型的远程监督半自动文档级关系抽取数据增强

    通过集成大型语言模型和自然语言推理模块，我们提出一种自动标注方法来生成关系三元组，从而增强文档级关系数据集，我们通过介绍增强的数据集 DocGNRE 展示了我们方法的有效性，该方法在重新注释众多长尾关系类型方面表现出色，并且在推进广义语言语义理解方面提供了实际好处。

    Nov, 2023

  • 提升自然语言理解的计算高效检索表示融合

    在本文中，我们提出了一种计算高效的检索表示融合方法 ReFusion，通过神经架构搜索，直接将检索表示融入到语言模型中，来解决将外部数据库中的知识纳入到非知识密集型任务中的挑战。实验证明，我们的 ReFusion 在各种非知识密集型任务上实现了卓越且鲁棒的性能。

    Jan, 2024

  • 基于自然语言逻辑的自回归多跳文档检索方法用于事实核查

    我们提出了一种基于自回归公式的检索和重新排序方法，该方法用自然逻辑为基础，使用证明系统动态终止检索过程，同时使用比竞争系统少 5 到 10 倍的记忆，对 FEVER、HoVer 和 FEVEROUS-S 等数据集具有与当前最先进方法相当的性能。

    Dec, 2022

  • 自适应焦点损失和知识蒸馏的文档级关系抽取

    本文提出了一个半监督框架，包含三个新组件，针对文档级关系抽取任务进行优化，通过轴向注意力模块学习实体对之间的相互依赖关系、自适应 focal loss 解决 DocRE 的类别不平衡问题，以及使用知识蒸馏方法克服人工标注数据与远程监督数据之间的差异。在两个 DocRE 数据集上的实验证明我们的模型表现超过了强基线模型，并且在 DocRED 排行榜上的 F1 分数和 Ign_F1 分数分别增加了 1.36 和 1.46 分。

    Mar, 2022

  • 基于精细化自然语言推理的多样化摘要任务忠实性评估

    我们提出了一种新的方法 InFusE，通过使用可变的前提大小并将摘要句子简化为更短的假设，分析了基于自然语言推理的摘要可信度评估。通过实验证明，在不同的摘要任务中，InFusE 取得了卓越的性能。

    Feb, 2024

  • 使用句子重要性评估和聚焦进行文档级关系抽取

    提出了一种用于 DocRE 的 SIEF 框架，通过设计句子重要性评分和句子聚焦损失来鼓励 DocRE 模型专注于证据句子，以提高整体性能和鲁棒性。

    Apr, 2022

  • DocNLI: 一个大规模的文档级自然语言推理数据集

    介绍了 DocNLI 数据集，它是基于广泛的 NLP 问题构建的，涵盖了文本的多种类型和文档层级上的 NLI，而不是仅仅句子层级上的。实验表明，即使没有微调，预训练于 DocNLI 上的模型在流行的句子级基准测试中表现良好，并且推理到文档层级上的跨域 NLP 任务具有良好的泛化性能。

    Jun, 2021

  • BioNLP-OST 2019 RDoC 任务：基于主题和注意力的查询 - 文档 - 句子交互的多粒度神经相关性排名

    研究通过使用基于注意力机制的神经主题模型和支持向量机进行 PubMed 摘要的检索和排名，以及使用基于查询的注意力句子表示、词袋和 TF-IDF 的多视图表示来实现句子排名模型。最终表现得到显著提高，分别在任务 1 和任务 2 中达到了第一名和 0.86 的均值平均精度（mAP）和 0.58 的宏平均精度（MAA）。

    Oct, 2019

  • KTRL+F: 知识增强的文档内搜索

    介绍了一个新的问题 KTRL+F，它是一种知识增强的文档内搜索任务，通过单个自然查询实时识别文档中的所有语义目标，包括对外部来源的意识。通过增加外部知识嵌入到短语嵌入中，提出了一种平衡速度和性能的知识增强短语检索模型，用户研究证明即使使用简单模型，用户减少搜索时间、查询次数和外部源的访问，鼓励研究界在 KTRL+F 上开展工作以提高文档内信息获取的效率。

    Nov, 2023

  • 将句子对 NLI 模型拓展至长文本和聚类的推理能力

    本研究探讨了 NLI 模型的直接零 - shot 应用，包括分析其对更长和越界输入的鲁棒性，开发新的聚合方法以操作完整文档，并在 ContractNLI 数据集上达到最先进的表现，并发现 NLI 分数提供强大的检索信号，并且比常见的相似性基于的方法提供更具相关性的证据提取。同时通过研究文档集群来鉴别不同来源之间的差异和共识，研究发现相同主题的维基百科页面在不同语言中存在实际不一致。

    Apr, 2022