COLINGMar, 2024

ILCiteR: 拥有证据支持的可解释的本地引用推荐

PDF
TL;DR现有的机器学习方法用于本地引用推荐直接将一个查询映射或翻译为值得引用的研究论文，这会导致有限的推荐可解释性。为了缓解这个问题，我们引入了基于证据的本地引用推荐任务，目标潜藏空间包括用于推荐特定论文的证据跨度。通过远程监督证据检索和多步骤再排序框架，我们的提议系统 ILCiteR 为查询推荐应引用的论文，并基于从现有研究文献中提取的类似证据跨度进行引用。与过去的方法只输出推荐不同，ILCiteR 检索了验证跨度和推荐论文的排序列表。其次，以前提出的引用推荐的神经模型需要在大规模标记数据上进行昂贵的训练，理想情况下是在候选论文池的每次重大更新之后。相反，ILCiteR 仅依靠动态证据数据库的远程监督和预训练的基于 Transformer 的语言模型，而无需任何模型训练。我们为基于证据的本地引用推荐任务贡献了一个新颖的数据集，并展示了我们提出的条件神经网络排序集成方法在重新排序证据跨度上的有效性。
machine learninglocal citation recommendationinterpretabilityevidence retrievaltransformer-based language models
发现论文，激发创造
  • 基于分层注意力文本编码器和 SciBERT 的本地引文推荐重新排序

    通过使用最近邻搜索和层次化注意网络构建文本嵌入来预测相关的引用文献，并使用 SciBERT reranker 在本地引文推荐任务中进行微调，我们的 reranker 需要更少的预取候选项即可达到最先进的性能。

    Dec, 2021

  • 通过链接预测的定向标准引用推荐与排名

    我们探讨了链接预测作为自动获取与新文档的主题或背景相关的现有文献的代理方法。我们的模型使用基于变压器的图嵌入来编码每个文档的含义，这些文档作为引文网络中的节点呈现。我们展示了我们的模型生成的语义表示在推荐和排名任务中可以胜过其他基于内容的方法。这为在那些需要这些文档正确互相引用以最小化可能出现的不一致性的领域中探索引文图提供了一种整体的方法。

    Mar, 2024

  • HybridCite: 上下文感知引文推荐的混合模型

    本文旨在研究引用建议系统，在多个数据集上测试了基于嵌入、主题建模和信息检索技术的引用建议方法，并将它们结合成一个半遗传混合推荐系统进行了离线和在线的评估，结果表明包含嵌入和信息检索组件的混合模型优于其他单个方法和算法。

    Feb, 2020

  • 异构图上层次表示学习的跨语言引文建议

    本研究提出了一种新颖的方案，通过异构图上的分层表示学习来进行跨语言引用推荐，可以优化出在图上定位重要的跨语言邻域的概率，实验结果显示该方法不仅可以超越现有的基线模型，而且可以提高跨语言引用推荐任务的表现。

    Dec, 2018

  • 基于主题句作为查询的段落级引文推荐

    提出了基于段落级别的引用推荐任务，通过 fine-tune 模型和四元组损失函数在 ACL 论文数据集上的实验，证明了该方法的优越性。

    May, 2023

  • 基于内容的引用推荐

    该研究提出了一种基于内容的方法来推荐论文草稿中的引用，通过将请求文档嵌入到向量空间中，再使用其最近邻作为候选项，并使用区分观察和未观察到的引用的判别模型对候选项进行重新排序，无需元数据，得到了相对于标准数据集的显著提升。

    Feb, 2018

  • 基于 BERT 和图卷积网络的上下文感知引用推荐模型

    本文提出一种基于深度学习的模型和完整组织的数据集，用于文章引用建议的上下文感知。该模型具有文档编码器和上下文编码器，并使用图卷积网络层和来自转换器的双向编码器表示 (BERT)。修改了 PeerRead 数据集之后，提出新的数据集全文 PeerRead，其中包含指向引用和文章元数据的上下文句子取样。本文中所述的方法能够获得最新的预测结果，提高了 28% 以上的平均准确率 (MAP) 和 recall@k。

    Mar, 2019

  • 让大型语言模型能够生成带有引文的文本

    这项研究介绍了 ALCE，一个自动化 LLMs 引用评估的评测基准，通过自动度量三个维度 - 流畅度、正确性和引用质量，强调了更好的检索器、长文本 LLMs 等方向的改善空间。

    May, 2023

  • 提供更多细节：利用潜在检索改进事实核查

    该研究旨在改善自动事实核查系统，并尝试将原始文档的全文作为证据，并引入了两个丰富的数据集。实验证明，即使没有标注黄金证据句子，包括原始文档在内的证据可以提供足够的上下文线索，该系统能够在不同的设置下显著提高最佳报告模型的精度。

    May, 2023

  • 通过细粒度奖励训练语言模型生成带有引文的文本

    本文提出了一种使用细粒度奖励的有效训练框架，教授大型语言模型生成高度支持和相关的引用文献，以及确保其回答的正确性。在常见的大型语言模型训练策略上应用这些细粒度奖励进行系统分析，并在 ALCE 基准测试和 EXPERTQA 上进行了广泛实验验证其模型的通用性。在 LLaMA-2-7B 上，细粒度奖励的引入在基准测试中取得了最佳性能，甚至超过了 GPT-3.5-turbo。

    Feb, 2024