EMNLPOct, 2020

利用潜变量模型研究跨语言形容词排序倾向

PDF
TL;DR本研究提出了一种基于语料库的多语言形容词顺序模型，能够在 24 种不同语言中准确排序形容词，并通过此模型提供强有力的证据证明了形容词顺序的普适性、跨语言及层级倾向。
adjective orderingcorpus-based modelmulti-lingualuniversal tendencieshierarchical
发现论文，激发创造
  • 深度词汇假说：自然语言中的人格结构识别

    该论文介绍了一种从语言模型中提取形容词相似性的方法，这种方法可以应用于几十种语言，涵盖上万个项目，在历史文本中进行分析，成本极低。通过该方法，可以更加接近词汇假设的原始（语义）视觉。

    Mar, 2022

  • 认知驱动的语言模型中的词序普遍规律

    语言的世界呈现出特定的类型学或意向性普遍现象；例如，主 - 宾 - 动 (SOV) 的语序通常使用后置词。通过语言模型的计算模拟，我们研究了语序普遍现象。我们的实验表明，具有类型学典型语序的语言模型的困惑度较低，其中包括认知可行的偏见：句法偏见、特定分析策略和记忆限制。这表明认知偏见和可预测性（困惑度）之间的相互作用可以解释语序普遍现象的许多方面。这也展示了在计算模拟语言普遍现象时的认知驱动语言模型的优势，这通常在认知建模中使用。

    Feb, 2024

  • 跨语言单词序变化反映了依赖性和信息局部性的进化压力

    通过 80 种语言的语料和系统发展模型，研究说明了单个语言中词序变化的频率分布和演化，说明词序变异反映了语言在维持总体有效性方面优化竞争压力的不同方式。研究结果表明，语法结构和使用在有限的认知资源下相互协调以支持有效沟通。

    Jun, 2022

  • 基于潜变量建模的无监督发现性别化语言

    本文介绍了一种生成潜在变量模型，用于量化形容词（或动词）选用及其情感，并以头（或依赖）名词的自然性别为条件。研究发现男女名词描述之间存在显著差异，并且这些差异与常见的性别刻板印象相一致：用于描述女性的积极形容词更与其身体相关而不是用于描述男性的形容词。

    Jun, 2019

  • 多语种基于普遍依存关系的词序语法类型

    介绍了一种基于连续值数据而非分类数据的新种子数据集，可以更好地反映语言的变异性，以及用于生成更广泛特征和语言的数据的方法学。

    Feb, 2024

  • 双语词表归纳的判别式潜变量模型

    我们提出了一种新的判别式潜变量模型，用于双语词典归纳任务，该模型将 Haghighi 等人的二分匹配字典先验与最先进的基于嵌入的方法相结合。我们提供了在两个度量标准下六个语言对上的经验改进，并表明先前的工作可以被视为类似配置的潜变量模型，尽管具有不同的先验。

    Aug, 2018

  • 语言模型作为词序假说的备选评估器：以日语为例的案例研究

    本文介绍了一种使用神经语言模型 (LMs) 分析语言词序的方法，以日本语作为案例研究，通过实验，初步得出神经语言模型具有足够的词序知识用于分析工具，并利用该方法，显示了规范词序与主题化之间的关系。

    May, 2020

  • 标量形容词识别与多语言排名

    本文介绍了一个新的多语言数据集，在这个数据集上，使用单语和多语境的语言模型进行了一系列实验，设置了性能基准，并引入了一个新的英语标量形容词分类任务。此外，还探索了上下文表示，并报告了此任务的未来比较的基线结果。

    May, 2021

  • 通过子树感知词重排序来提高跨语言迁移

    使用依赖通用模式的强大重排序方法，能从少量的标注数据中学习到依赖语法上下文的精细词序模式，并在所有语法树的层级上应用，通过实验验证在零样本和少样本场景下相比强基准模型始终有优势。

    Oct, 2023

  • 跨语言转移中的排序差异困难：依存句法分析案例研究

    本文研究不同语言的词序，并假设一个与词序无关的模型将在转移到远程外语时表现更好。通过在英语语料库上训练依赖解析器，并在 30 种其他语言上评估它们的转移性能，我们比较基于递归神经网络（RNN）和修改的自我注意体系结构的编码器和解码器。严格的实验和详细的分析表明，基于 RNN 的架构在传输到接近英语的语言时表现良好，而自我注意的模型具有更好的整体跨语言可转移性并在远程语言上表现特别好。

    Nov, 2018