ACLApr, 2024

重温次词标记化：大型语言模型中的词缀否定案例研究

PDF
TL;DR本文旨在研究测量后缀否定对现代英语大型语言模型（LLMs）的影响。通过负性语素表达被否定的含义，这对 LLMs 来说可能会具有挑战性，因为它们的分词器往往不具备形态的可行性。通过使用不同的子词分词方法，我们进行了大量实验，得出了有关分词性能和否定敏感性之间相互作用的几个见解。尽管分词准确性和否定检测性能之间存在一些有趣的不匹配，但我们证明模型总体上能够可靠地识别后缀否定的含义。
affixal negationlanguage modelstokenization methodsnegation sensitivitymorphological plausibility
发现论文，激发创造
  • 语言模型不抗拒否定：对否定基准测试的分析

    本研究针对 LLMs，比如 BERT、GPT-neo、GPT-3 和 InstructGPT 等不同模型，通过实验验证了它们在处理否定句时的局限性，包括对否定句的敏感性不足、无法捕捉词汇语义的否定表述以及在否定条件下推理的失败。

    Jun, 2023

  • 自然语言处理中的否定检测和词语消歧的语义方法

    本研究旨在演示一种通过词义消歧唯一地评估文本的词汇结构以检测否定的方法，从而解决否定对情感分析的影响，达到更好的准确性，并且在情感分析方面比传统方法有着显著的提高。

    Feb, 2023

  • 这不是一个数据集：一个用于挑战大规模语言模型的大规模否定评估基准

    大型语言模型在理解否定时表现亚优，本研究通过引入一个大规模自动生成的常识知识数据集，涉及到约 40 万个描述性句子，其中大约 2/3 的句子包含否定形式，使用零样本学习方法对现有开源语言模型进行测试，结果表明尽管模型对于肯定的句子有较高准确性，但在否定句子方面存在困难，缺乏深入理解否定的能力。尽管在否定句子上对模型进行微调可以提高其性能，但在处理否定方面仍然存在泛化能力不足的问题，突显出大型语言模型在否定理解和泛化方面仍面临挑战。

    Oct, 2023

  • 自然语言理解语料库中否定语分析

    本文研究分析了 6 个自然语言理解的任务中，八个流行的语料库中的否定词的使用情况，指出这些语料库中的否定词较少且不重要，而最新的 transformers 在处理含有重要的否定词的实例时表现不佳，因此需要新的包含否定词的语料库来解决自然语言理解任务中的问题。

    Mar, 2022

  • 分析子词切分的认知可信度

    对比了三种分词算法在多种语言和词汇量上，发现 UnigramLM 算法在分词行为上的认知合理性较低，且派生形态的覆盖率较低。

    Oct, 2023

  • 上下文化语言模型中的否定、协同和量词

    本文探讨了上下文化的语言模型及其内部机制，尤其关注其对虚词的语义学约束和周围环境的影响，研究了相应的数据集，实现了可视化的定性分析界面。

    Sep, 2022

  • 分词不足：分词的诅咒

    大型语言模型存在分词问题，导致对错别字、长度差异和标记内部结构的忽视。本研究通过探究复杂问题解决、标记结构探测和对错别字的抵抗力来系统地调查这些挑战及其对大型语言模型的影响，并展示模型参数缩放与子词规范化对解决这些问题的作用。

    Jun, 2024

  • 利用多任务学习否定词改进情感分析

    本文提出了一种多任务方法，通过将否定信息显式地纳入情感分析模型中，以优于隐式学习否定。该方法采用级联神经体系结构，并选择性共享 LSTM 层，同时在多个标准英语数据集上分析了该方法的性能，包括其多种不同设置下的输入数据类型和数量。

    Jun, 2019

  • 利用显式负例提高神经语言模型语法能力的实用性分析

    使用否定例子训练神经语言模型，通过添加边际损失增强模型对特定句法结构的鲁棒性表现，研究发现适当使用否定例子提高模型的鲁棒性，具有可行性，但是该方法在处理宾语从句时还存在困难。

    Apr, 2020

  • 理解非理解：在语言模型中建模否定

    本文针对自然语言中否定句的建构，借助负面通用语句的反向学习目标，优化了 BERT 语言模型，将 negated LAMA 数据集的平均 top1 错误率降至 4％，并在 negated NLI 基准测试中看到了一些改进。

    May, 2021