自然语言处理中语言类型数据库的过去、现在和未来

EMNLPOct, 2023

自然语言处理中语言类型数据库的过去、现在和未来

The Past, Present, and Future of Typological Databases in NLP

Emi Baylor, Esther Ploeger, Johannes Bjerva

TL;DR在发展自然语言处理模型中，特质信息对于低资源语言尤为重要，目前存在的大规模特质数据库在彼此之间和与其他特质信息源（如语言语法）之间存在不一致性，我们通过系统地研究不同特质数据库和资源的不一致性及其在自然语言处理中的用途，旨在为解决这个问题提供启示，同时提出连续视角的特质特征具有重要的潜力，建议从语言学的角度加以推广，认为在低资源语境下的语言建模中，这种特质视角具有重要的应用前景。

Abstract

typological information has the potential to be beneficial in the development of nlp models, particularly for low-resource languages. Unfo

typological information nlp models low-resource languages typological databases linguistic grammars

发现论文，激发创造

语言变异和语言规律的建模：关于自然语言处理中的语言类型学调查

对语言类型学在自然语言处理中的应用进行了调研，发现目前的语言类型数据库在系统性能提升方面存在局限性，现提出将语言的类型类别与现代自然语言处理中的机器学习算法相融合的新方法。

Jul, 2018

自然语言处理中类型学信息使用调查

本文系统地调查了现有的语言类型学资源及其在自然语言处理中的应用，旨在促进该领域未来的研究和发展。

Oct, 2016

多语种基于普遍依存关系的词序语法类型

介绍了一种基于连续值数据而非分类数据的新种子数据集，可以更好地反映语言的变异性，以及用于生成更广泛特征和语言的数据的方法学。

Feb, 2024

SIGTYP 2020 共享任务：语言类型特征预测

本篇论文介绍了如何通过预测语言的语言学特征来填充 typological knowledge bases。该任务吸引了 5 支团队的 8 个提交，在最强大的系统中，特征相关性得到了应用。然而，该研究的错误分析表明，即使在一些语言的特征不确定时，即使是最优秀的系统也难以准确地预测特征值。

Oct, 2020

从文本中推断语言类型学特征：推理《世界语言结构地图》的稀疏特征

本文提出一种利用多语种文本预测 World Atlas of Language Structures（WALS）特征的方法，使用基于字节嵌入和卷积层构建的循环神经网络预测器，通过在 556 种语言上的测试表明一些各种语言类型的特征是可靠预测的

Apr, 2020

自然语言处理中的 ' 类型多样性 ' 是什么？

本研究系统地调查了涉及 “类型多样性” 的自然语言处理研究，发现并无固定的定义或标准。我们引入了几种度量标准来近似衡量语言选择的多样性，发现结果在各篇论文中差异很大。此外，我们证明了偏斜的语言选择可能导致对多语言性能的高估。我们建议未来的研究应当在 “类型多样性” 方面提供清晰的操作定义，以从经验证据上证明语言样本的多样性。

Feb, 2024

为类型预测学习语言表示

利用 1017 种语言构建一个神经机器翻译系统，预测存在于语分类数据库中缺失的语言特征，实验表明该方法不仅能推测句法特征，还能推测音位、音库特征。

Jul, 2017

将语言类型学纳入神经依存句法分析中的挑战

本研究探讨了在跨语言依赖分析的背景下，如何利用类型学来提高性能，而我们的主要发现是将语言聚合成句法同质性群组有助于性能，而将类型维度进行组合式学习的效果并不显著。同时，考虑到所选择语料库的列统计学与类型学相一致时，性能表现也将更为出色。

Sep, 2019

从拓扑学观点看语言学

该研究描述了一种分析南美洲语言的拓扑形状的工作流程，通过应用多重对应分析技术和拓扑数据分析方法，解决了语言学中普遍存在的分类值数据库数据可视化困难的问题。

Mar, 2024

从音韵学到句法：利用语言嵌入进行不同层次的无监督语言类型学研究

我们学习了分布式语言表述的方法，可以用来预测语言在不同类型水平和 NLP 模型中的相似性，进而预测 WALS 中的语言类型特征。

Feb, 2018