通过重新实现 DistMult 模型，本文发现几乎所有在 FB15k 标准数据集上发布的模型的准确性都可以被我们适当调整基线模型超越，表明最近模型的性能改进可能不是由于架构变化，而是由于超参数调整或不同的训练目标。这应促使未来的研究重新考虑如何评估和报告模型的性能。

May, 2017

该文介绍了基于句子的关系抽取问题，着重探讨了影响现有关系抽取模型性能的实体表示和噪声标签问题，并利用预训练语言模型提出了改进的基线模型，在 TACRED 数据集上取得了 F1 分数 74.6%，在 Re-TACRED 数据集上取得了 F1 分数 91.1%，证明预训练语言模型在该任务上具有高性能。

Feb, 2021

本研究通过对一系列现代基于转换器的语言模型进行基础调整的表现研究，展示了它们具有竞争力并可以显著超越最新提出的先进方法以及一个简单的工具来检测在未来数据集中需要解决的问题，如潜在数据泄漏和混淆变量。

Apr, 2021

本研究基于 Transformer 的修改方法和负样本抽样策略在 TripClick 健康信息检索集合中取得较大的提升，同时使用领域特定的预训练模型，将稠密检索与 BM25 进行比较，发现即使使用简单的训练过程，稠密检索也能显著优于 BM25。

Jan, 2022

本文重新评估了经典的通用引导方法与近期神经方法在领域漂移下的神经网络情感分析任务上的表现，并提出了一种新的多任务 tri-training 方法。通过广泛的实验证明了经典三分训练方法在一定程度上优于现有的方法，并认为经典方法是一个重要而强大的基准线。

Apr, 2018

本文通过三种不同的方案对低资源情况下关系抽取系统进行了全面研究，并创建了包含 8 个 RE 数据集的基准，示范了不同的方法与结合的影响，结果表明虽然基于提示的调整有助于低资源 RE，但在从跨句子上下文中提取多个关系三元组时仍有很大改善潜力，数据增强与自我训练可以较好地充实现有基准，并可带来很多性能提升，然而自我训练并不能始终实现低资源关系抽取的进步。

Oct, 2022

本文旨在通过研究和基准测试改进训练数据提取的技巧，提出了一种改进的训练数据提取算法，并基于 GPT-Neo 1.3B 对算法进行了评估，实验结果表明，该算法在大多数情况下优于基线模型。

Feb, 2023

通过将问题回答问题的问题分解为实体检测，实体链接，关系预测和证据组合，我们使用一些启发式算法，探索了一些简单而强大的基线模型，其中基本的 LSTM 和 GRU 加上一些启发式算法得到的准确率接近最新技术水平。这些结果表明，文献中提出的复杂深度学习技术带来的收益相当有限，并且一些先前的模型表现出了不必要的复杂性。

Dec, 2017

本文介绍了一种用于文本分类的简单高效的基线方法 fastText，在准确性方面通常与深度学习分类器相媲美，但在训练和评估方面快了数个数量级。我们用标准的多核 CPU 可以在不到十分钟的时间内对十亿多个单词进行训练，并在不到一分钟的时间内对 312K 种类别的 50 万个句子进行分类。

Jul, 2016

这篇论文进行了一项元分析研究，发现神经排序模型在有限数据情况下并不能提高特定检索任务的效果，并对作者通过与弱基线比较来展示神经 IR 论文中 “胜利” 的 anecdotal evidence 提供了权威的实验证据和结论。

Apr, 2019