EMNLPNov, 2020

NegatER：基于常识知识库的负例自动发现方法

PDF
TL;DR该研究提出了 NegatER 框架，使用上下文语言模型对常识知识库中的负面语句进行排序，不需要真实的负面数据，有助于完成知识库中的缺失信息。实验结果证明，与多种数据扩增方法相比，NegatER 产生的负面语句更合理、更连贯、更具有信息量，以显著地提高知识库补充任务的准确性，证实了语言模型中的正面知识可以 “重新利用” 来生成负面知识。
commonsense knowledgeartificial intelligenceknowledge base constructionnegatercontextual language model
发现论文，激发创造
  • UnCommonSense: 关于日常概念的信息性负知识

    本文提出了 UNCOMMONSENSE 框架，以材料化负面常识陈述，给定一个目标概念，识别 CSKB 中可比较的概念，通过局部封闭世界假设将可比较概念的正陈述用于生成负陈述候选项，并对其进行筛选和排序。该方法超出了现有技术在内在和外在评估方面的表现，并发布了大量的信息性否定数据集作为未来研究的资源。

    Aug, 2022

  • 这不是一个数据集：一个用于挑战大规模语言模型的大规模否定评估基准

    大型语言模型在理解否定时表现亚优，本研究通过引入一个大规模自动生成的常识知识数据集，涉及到约 40 万个描述性句子，其中大约 2/3 的句子包含否定形式，使用零样本学习方法对现有开源语言模型进行测试，结果表明尽管模型对于肯定的句子有较高准确性，但在否定句子方面存在困难，缺乏深入理解否定的能力。尽管在否定句子上对模型进行微调可以提高其性能，但在处理否定方面仍然存在泛化能力不足的问题，突显出大型语言模型在否定理解和泛化方面仍面临挑战。

    Oct, 2023

  • NevIR: 神经信息检索中的否定

    该研究构建了一个主题为否定形式对神经信息检索的影响的基准测试数据集，发现跨编码器表现最好，晚交互模型次之，对数器和稀疏神经架构最差。同时研究表明，当存在否定形式时，大多数当前的信息检索模型表现相似或不佳，而本研究在对比文本数据集的继续优化和扩大模型尺寸方面，虽然提高了性能，但仍存在机器与人之间的巨大差距。

    May, 2023

  • 视频检索中的否定理解学习

    本研究使用现有数据集 (VATEX, MSR-VTT) 重新构建评估协议，提出了一种基于学习的方法来训练具有否定意义的视频检索模型，该方法通过部分否定原标题来为特定训练视频构建软负标题，然后计算三元组的双向约束损失，将这个辅助损失加权到标准检索损失中。实验证明，使用所提出的方法重新训练 CLIP 模型能够明显提高处理具有否定查询的能力，同时还提高了模型在原始基准测试中的表现。

    Apr, 2022

  • 重新思考生成式命名实体识别的负实例

    通过引入负实例并采用分层匹配算法，本研究在大型语言模型上实现了对命名实体识别任务的改进，提出了改进的零样本性能的生成式 NER 系统 GNER。

    Feb, 2024

  • 自然语言处理中的否定检测和词语消歧的语义方法

    本研究旨在演示一种通过词义消歧唯一地评估文本的词汇结构以检测否定的方法，从而解决否定对情感分析的影响，达到更好的准确性，并且在情感分析方面比传统方法有着显著的提高。

    Feb, 2023

  • 为训练基于语言的目标检测器生成增强的负样本

    借助大规模数据和生成模型，我们提出利用负面样本来改进基于语言的开放词汇目标检测，实验结果表明这种方法提高了性能。

    Dec, 2023

  • 知识图表示学习中的负采样：综述

    知识图谱表示学习（KGRL）或知识图谱嵌入（KGE）在知识构建和信息探索的人工智能应用中起着至关重要的作用。这篇综述论文系统地回顾了各种负采样（NS）方法及其对 KGRL 成功的贡献，将现有的 NS 方法按照五个不同的类别进行了分类，并指出了各自的优缺点。此外，该综述还提出了一些开放性研究问题，为未来的研究提供了潜在方向。通过提供基础 NS 概念的概括和对齐，这篇综述为在 KGRL 环境下设计有效的 NS 方法提供了有价值的洞察，并为该领域的进一步发展提供了动力。

    Feb, 2024

  • LEMON: 知识图谱嵌入负采样的语言模型

    本文提出了一种利用预训练语言模型来生成负样本的方法，该方法利用实体之间的距离通过它们的文本信息形成邻域集群，以得到符号实体的表示形式，有效地应用于基准知识图谱的链接预测任务。

    Mar, 2022

  • 预训练模型中的常识知识挖掘

    使用预训练的双向语言模型将关系三元组转换为掩码句子，通过估计点间互信息来排名三元组的有效性，从而开发了一种生成常识知识的方法。该方法在新源中挖掘常识知识时优于显式训练的模型，说明无监督技术比目前的有监督方法更具推广性。

    Sep, 2019