本研究针对 LLMs，比如 BERT、GPT-neo、GPT-3 和 InstructGPT 等不同模型，通过实验验证了它们在处理否定句时的局限性，包括对否定句的敏感性不足、无法捕捉词汇语义的否定表述以及在否定条件下推理的失败。

Jun, 2023

本文通过使用零样本和有向样本的方式，比较了大型语言模型、基于文本提取和基于知识图谱的负向语句生成等不同方法在生成关于不同主题下实体的正确性和显著性方面的表现，结果显示有向样本有利于提高生成负向语句的质量，但大型语言模型在理解负向语句的真实性方面仍然存在困难。

May, 2023

本文针对自然语言中否定句的建构，借助负面通用语句的反向学习目标，优化了 BERT 语言模型，将 negated LAMA 数据集的平均 top1 错误率降至 4％，并在 negated NLI 基准测试中看到了一些改进。

May, 2021

本文研究了 GPT-3 等较大型语言模型在否定对比问题上的表现。我们提出了一种方法来改善模型在否定对比场景下的表现，该方法胜过了来自 GPT-3 的少样本生成，突出了研究大型语言模型在否定对比问题中响应的重要性。

Jul, 2023

本研究探讨了大型语言模型在处理负常识知识时的能力，通过设计了一系列的受限关键词句子生成任务和布尔问答任务，发现大型语言模型在生成句子方面存在信仰冲突现象，即难以生成基于负常识的句子，但能够正确回答极性的是或否问题。我们的进一步分析表明，语言模型预训练中的统计和否定偏见报告是这种冲突的原因。

May, 2023

本文介绍了一种自然语言推理测试套件，以探索自然语言处理方法的能力，理解子句否定。该测试套件包含基于严格的语言学框架进行的否定类型和构造的注释，以及用于构造假设的操作。作者使用预训练语言模型进行实验，证明了此测试套件比现有的侧重于否定的基准更具挑战性，并展示了作者的注释如何支持对当前自然语言推理能力在否定和量化方面的更深入理解。

Oct, 2022

本研究介绍了两个新的数据集（NEG-1500-SIMP 和 ROLE-1500），并使用 GPT3 对其进行了扩展，以用作语言模型探测的基准测试。结果表明，较小规模的测试集可能会对研究结论产生影响，同时我们发现模型的性能受否定词的影响较大。

Mar, 2023

本研究旨在改进语言模型对否定词的敏感性，提出了一种基于否定词的 BLEURT 评估指标 NegBLEURT，并通过设计基于规则的句子否定工具和创建 CANNOT 数据集进行模型优化。结果表明，经过优化的模型在否定句上表现优于现有的评估指标，并且在其他扰动上保持基准模型的性能。

Jul, 2023

该研究提出了 NegatER 框架，使用上下文语言模型对常识知识库中的负面语句进行排序，不需要真实的负面数据，有助于完成知识库中的缺失信息。实验结果证明，与多种数据扩增方法相比，NegatER 产生的负面语句更合理、更连贯、更具有信息量，以显著地提高知识库补充任务的准确性，证实了语言模型中的正面知识可以 “重新利用” 来生成负面知识。

Nov, 2020

本文中，我们提出了一种多任务学习方法，将来自句法和语义辅助任务的信息（包括否定和推测范围检测）结合起来，创建了更具鲁棒性的英语语言模型，以处理定向情感分析中的语言现象，经实验证明，基于多任务和通过语言建模的迁移学习都能提高模型性能，但总体表现仍有改进的空间。我们在此链接上发布了数据集和源代码。

Oct, 2020