ACLApr, 2023

成语、探针和危险之物：面向向量空间中成语性结构探查的研究

PDF
TL;DR本文利用结构探查方法研究成语信息在嵌入式系统中如何被结构化编码。静态嵌入法 (GloVe) 和上下文嵌入法 (BERT) 都能编码某些惯用信息，但在向量范数是否编码成语性的问题上存在矛盾现象，同时也指出了数据集的一些局限性和未来工作的方向。
structural probing methodidiomatic informationstatic embeddingscontextual embeddingsvector norm
发现论文，激发创造
  • 探寻嵌入的纹理：探讨嵌入的构造

    通过引入噪音亚百特信息编码的向量空间，使用探测框架扩展方法，研究了 GloVe 和 BERT 嵌入中向量范数如何编码不同种类的信息，发现 GloVe 在向量范数中存储了句法和句子长度信息，而 BERT 则将其用于编码上下文不连贯信息。

    Oct, 2022

  • 探究低资源语言句子嵌入：有关探究任务评估的结构设计选项

    通过研究嵌入式语句在较少语言资源环境下的探测技术，揭示了探测数据集规模和分类器等结构设计选择对探测结果影响很大，同时，强调英语探测结果无法转移至其他语言，未来应进行更公平和全面的多语言句子级探测任务评估。

    Jun, 2020

  • 基于维度选择的内在探测

    本文讨论了自然语言处理系统中之前探测语言结构方法的缺陷，并提出了基于多元高斯探针的内在探测框架，以便于检测词向量的语言信息。通过 36 种语言的实验证明，多数形态语法特征由少数神经元可靠编码，而 fastText 相较于 BERT 更加集中其语言结构。

    Oct, 2020

  • 通过线性结构探测研究变压器句子嵌入的语义子空间

    以语义结构探测为方法，对来自不同家族（仅编码器、仅解码器、编码解码器）和大小的语言模型进行实验，评估其在语义文本相似度和自然语言推理方面的性能和层次动态，发现模型家族在性能和层次动态上存在显著差异，但结果大部分与模型大小无关。

    Oct, 2023

  • 信息论探针用于语言结构探索

    本文介绍了一种基于信息理论的方法来评估神经网络对自然语言处理的理解程度，即探针，发现在评估中应选择表现最好的模型，即使它是更复杂的模型，以获得更紧密的估计和更多的语言信息。作者在多种语言数据集上进行实验验证了这种方法的有效性。

    Apr, 2020

  • 习惯用语检测的高效样本方法

    本篇研究旨在探究识别成语化多词表达的高效方法，通过 Pattern Exploit Training 和 BERTRAM 两种少样本分类方法，以及探索不在训练数据中的多词表达的识别，提高英语的表现，但对葡萄牙语和加利西亚语的效果较差。

    May, 2022

  • 鸟瞰：用简单信息论方法探测语言图结构

    该论文提出了一种信息论探针 Bird's Eye，用于检测自然语言处理模型中语言图谱中的信息如何编码，以及一种名为 Worm's Eye 的探针方法，可用于调查语言图谱中的局部语言信息。通过这些探针，作者分析了 BERT 模型对句法和语义图结构的编码能力，并发现这些模型在某种程度上编码了句法和语义信息，但对句法信息的编码水平更高。

    May, 2021

  • 在双曲空间中探究 BERT

    本研究使用 Poincare 探针将 contextualized word embeddings 映射到具有明确定义层次结构的 Poincare 子空间中，发现在句法子空间中我们的探针比欧几里德探针更好地恢复了树结构，同时在情感子空间中，我们揭示了正面情感和负面情感的两种潜在的元嵌入，并展示了词汇受控情境化将如何改变嵌入的几何定位。

    Apr, 2021

  • 使用正交结构探测器检查跨语言上下文嵌入

    该研究通过使用新型正交结构探针，针对比较语言特征研究并评估了 9 种不同语言中 mBERT 的语境表示所编码的句法和词汇结构信息，并发现对于与英语密切相关的语言，在跨语言嵌入空间中无需进行转换，而对于其他语言，则需要学习分别进行的正交转换。

    Sep, 2021

  • 探测是否足够？指示性任务作为探测嵌入空间的替代方法

    通过引入非可训练任务（指标任务），我们展示了利用适当的指标可以更准确地获取嵌入表示中的信息，并较之探测任务的结果更能反映嵌入空间中存在的属性。因此，我们认为在提取嵌入表示的信息时应考虑实施和考虑指标任务。

    Oct, 2023