Jun, 2024

捷克形态句法分析的开源网络服务与形态字典增强的深度学习

PDF
TL;DR我们提供了一个开源网络服务，该服务用于捷克形态句法分析。该系统将深度学习模型与高精度形态词典的重评分相结合，在推理时能够显示超过两个竞争基准：深度学习模型确保了对于未在词汇表中的词汇的泛化和更好的消歧能力，从而优于现有的形态分析器 MorphoDiTa；同时，深度学习模型通过推理时利用手动精心编辑的形态词典来获益。相较于 MorphoDiTa，我们在词干化方面的误差减少了 50％，在词性标记方面的误差减少了 58％，同时还提供了依赖性分析。该模型是在目前最大的捷克形态句法语料库 PDT-C 1.0 上进行训练的，训练后的模型可以在此 https URL 上获取。我们将该工具提供为一个网络服务部署在此 https URL 上。源代码可以在 GitHub（此 https URL）上找到，配有用于简单使用的 Python 客户端。模型的文档可以在此 https URL 找到。
czech morphosyntactic analysisdeep learning modelrescoringmorphological dictionarymorphodita
发现论文，激发创造
  • 使用 BERT 进行变音符号恢复并分析其在捷克语中的应用

    本文提出了一种基于上下文化嵌入（BERT）的新型变音符号恢复体系结构，并在 12 种带有变音符号的语言上进行了评估。此外，我们对捷克语进行了详细的错误分析，最终我们对真实错误进行了分类。

    May, 2021

  • 用于探索捷克语单词嵌入的新单词类比语料库

    本文旨在探究最新的词嵌入方法对于捷克语的应用效果，对其进行了词类、语法和语义属性角度的分析，并在新语料库上使用了 Word2Vec 和 GloVe 算法进行了实验，实验结果表明该方法在捷克语的 NLP 领域中是有效的。

    Aug, 2016

  • 捷克语的神经生成：数据和基线

    该研究提供了一份重点研究餐厅场景下，针对捷克语言的 NLG 数据集，并介绍了针对此语言难点的两种模型，分别为使用神经语言模型在词汇化时选择正确的变形形式以及使用序列到序列模型生成词元和形态标记的交替序列，再由形态生成器进行变形。

    Oct, 2019

  • 低资源语言的跨语言形态标注

    提出了一种适用于低资源语言的模型来训练形态标记器，该模型使用 Wesabie 模型进行打标， 通过在语料库中引入 POS 词性标注的元信息，将标记信息从富资源语言映射到贫资源语言，实现了跨语言知识的迁移，可以提高句法分析的效果。

    Jun, 2016

  • 布拉格依存数学树库 -- 集成版本 1.0

    我们提出了一种丰富注释的语言资源，即 Prague Dependency Treebank-Consolidated 1.0（PDT-C 1.0），其中包含四个来自不同来源的捷克文数据集，可供自然语言处理任务和语言学研究使用，总共包含约 18 万句带有它们的词态、表面和深层语法标注，可供比较不同流派文本的跨语言研究。

    Jun, 2020

  • COMBO：先进的形态句法分析

    COMBO 是一个完全基于神经网络的 NLP 系统，支持准确的词性标注、形态分析、词形还原和 (增强) 依赖分析，提供超过 40 种语言的自动可下载的预训练模型，平衡了效率和质量。

    Sep, 2021

  • 基于形态学建模的低资源神经机器翻译

    在低资源环境中，提出了一种用于模拟复杂形态的框架解决方案，该方案采用了双层 Transformer 架构来编码输入端的形态学信息。同时通过多标签多任务训练和基于 beam search 的解码器，提高了机器翻译性能，并使用通用形式的注意力增强方案来整合预训练语言模型和源语言和目标语言之间的词序关系建模。通过评估多种数据增强技术，提高了在低资源环境中的翻译性能，最终在基纳卢旺达语 - 英语翻译任务中取得了有竞争力的性能，希望我们的结果能够鼓励更多在低资源的神经机器翻译中使用明确的形态学信息以及所提出的模型和数据增强方法。

    Apr, 2024

  • 神经机器翻译中目标语言形态的建模：策略比较

    本文研究机器翻译中针对形态丰富的目标语言面临的挑战以及采用词元标记策略和语言学知识进行目标语言语言建模的实验，结果表明词汇量限制、语法一致性和语言关联性问题仍然是机器翻译需要解决的重要问题。

    Mar, 2022

  • 用于分类捷克新闻文本的数据集和强大基准线

    通过 CZEch~NEws~Classification~dataset 对 Czech 自然语言处理进行评估，发现语言特定的预训练编码器分析优于可选的大规模生成语言模型，并定义了四个分类任务：新闻来源、新闻类别、作者性别推断和星期几。

    Jul, 2023

  • 回归模式：使用特征序列 Trie 进行高效的日本语形态分析

    本研究使用最快的基于模式的 NLP 方法，以提高其精度，从而为日语提供简单而准确的形态分析器，该方法可以每秒处理超过 1,000,000 个句子在现代 CPU 上，而与学习为基础的基线相比呈现出相当的准确性。

    May, 2023