probing classifiers | BriefGPT

关键词probing classifiers

搜索结果 - 5

变形金刚对政府了解多少？
该论文研究了语言特征和自然语言结构的编码在 Transformer 语言模型中可以获得的洞察力，特别是探讨了 BERT 如何编码句子中成分之间的关系。我们使用多个探测分类器和两种形态丰富的语言数据进行实验，结果表明，Transformer
PDF2 months ago
知识树：基于知识神经元的梯度提升决策树作为探测分类器
使用梯度提升决策树作为语言模型中隐藏层的检测分类器，相对于逻辑回归于转换器层的输出表示，用于识别句子部分更具优势，并且比许多其他方法更可取，根据预置设置，错误率的增益范围为 9-54%。
PDF7 months ago
自然语言处理中的表征操作化
本文提出了一个用于评估神经 NLP 模型成分表示性质的框架，并使用探查分类器进行具体操作，从而为科学哲学家和 NLP 从业人员提供了一个测试性的场所来评估关于表示性质的说法，并提供了开展实证研究的新途径。
PDFa year ago
探针分类器在概念移除和检测中不可靠
研究人员发现，基于文本数据训练的神经网络模型存在不可取的语言或敏感概念问题。本文通过广泛的理论和实证分析，证明了使用事后和对抗方法无法完全删除有问题的概念，并有可能破坏所有有用任务特征，并建议使用伪度量衡量最终分类器的质量。
PDF2 years ago
探测分类器：承诺、缺陷和进展
探测分类器作为解释和分析自然语言处理深度神经网络模型的一种突出方法论已经被广泛应用。然而，最近的研究表明了其方法上的各种局限性。本文批判性地回顾了探测分类器框架，突出了其优点、缺点和进展。
PDF3 years ago