不不错” 不等于 “错”:否定表达在分布式认知中的解释
本文提出一个模型框架来模拟对话否定,该模型将世界上下文应用于逻辑否定,以组成分配语义。给定一个词,该框架可以创建一个类似于人类感知否定的否定。该框架可以纠正逻辑否定,并将意义更接近蕴含层次结构的意义重量相加,以容纳不同选择的逻辑否定,组合和世界性背景生成,尤其提出并激励了一个新的采用矩阵逆的逻辑否定,通过密度矩阵来编码分级蕴含信息,实验证明,采用减法否定和相移器的组合可以得到与人类评分最高的 Pearson 相关系数为 0.635。
May, 2021
本文针对自然语言中否定句的建构,借助负面通用语句的反向学习目标,优化了 BERT 语言模型,将 negated LAMA 数据集的平均 top1 错误率降至 4%,并在 negated NLI 基准测试中看到了一些改进。
May, 2021
本研究提出一种新的方法来衡量当今语言模型中形容词修饰现象的组合表现,研究结果表明当代神经语言模型在考虑下文影响时存在显著的差异,并且词类之间存在差异但在组合中无法表现,这引起了当前语言模型是否能够捕捉到真正的语言分布特性的质疑。
Oct, 2022
分布式语义模型已经广泛应用于自然语言处理系统中,但在语言和认知的更广泛理论范围内,分布式语义模型的理论地位仍不清楚。 然而,我们认为传统答案本质上是一个误解,分布式语义模型本身是表达含义的适当模型。
May, 2019
本文提出一种新的基于概率框架、结合形式语义和机器学习的方法,通过将谓词与其所指实体分开,利用贝叶斯推断来对逻辑形式进行推理,在使用受限玻尔兹曼机和前馈神经网络的组合实现这一框架之后,最终证明了该方法的可行性。
Jun, 2016
本文针对常识推理的矛盾、否定及其常识含义提出了首个包含 624K 个 if-then 规则的常识知识图谱 ANION1,并提供了基于该资源的联合生成和鉴别推理模型,从而提供了关于逻辑否定和常识矛盾如何重塑其原始前提的新的实证洞见。
Apr, 2021
对 Flickr30K 语料库中包含否定词(no,not,n't,nobody 等)描述的定性分析和否定词使用的分类进行了提供,并提供了一个要求集,要求一个图像描述系统能够生成否定句子。作为一项试验,我们使用了我们的分类方式对 Flickr30K 语料库中包含否定词的句子进行了手动注释,达成了 K=0.67 的一致得分。通过本文,我们希望开展关于图像描述中主观语言内容的广泛讨论。
Jun, 2016
基于提示的方法在自然语言处理领域越来越受关注,并在许多下游任务中显示出其有效性。然而,鲜有研究探索这些方法在逻辑推理方面的能力。本研究针对提示方法在一阶逻辑推理方面的有效性进行研究,发现其中的瓶颈问题在于逻辑否定。根据我们的分析,逻辑否定往往导致与负回答的虚假相关性,而没有逻辑否定的命题则与正回答相关。为了解决这个问题,我们提出了一种简单而有效的方法,即 Negation Augmenting and Negation Debiasing(NAND),该方法引入了负命题到基于提示的方法中,而无需更新参数。具体而言,这些负命题通过为所有实例提供 “不” 来抵消虚假相关性,使模型不能仅通过表达式中是否包含逻辑否定来做决策。在三个数据集上的实验证明,NAND 不仅解决了逻辑否定校准的问题,还显著增强了基于提示方法在逻辑推理方面的性能,而无需重新训练模型。
May, 2024