Sep, 2024

历史德语文本规范化：基于类型和标记的语言建模

HTML
PDF
TL;DR本研究解决了历史拼写变体给历史数字化文本的全文搜索和自然语言处理带来的挑战。论文提出了一种基于Transformer语言模型的德语文学文本自动规范化系统，使用平行语料库进行训练，结果显示该系统在准确性方面表现出色，接近更大型的全端到端句子规范化系统，但仍面临历史文本规范化中的模型泛化困难和高质量平行数据不足的挑战。
发现论文，激发创造
  • 历史英语词性标注

    此研究探讨了如何利用领域适应技术提高处理历史文本的性能，集中在词性标注这一经典测试任务中，并表明了 Feature Embedding 方法的有效性。

    Mar, 2016

  • 双向LSTM和多任务学习优化历史拼写规范化

    使用深度神经网络技术对历史文献进行自然语言处理，尤其是对字符进行深度双向LSTM网络归一化处理。在对早期新高地德文文本的评估中，我们的模型表现优异，且使用多任务学习结合额外的标准化数据可以进一步提高模型的性能。

    Oct, 2016

  • 低资源口音方言的机器翻译: 规范瑞士德语的策略

    设计了一种机器翻译系统，使用字符级神经网络翻译文本，并结合基于短语的统计翻译，实现了对伯尔尼方言的36% BLEU得分的翻译。这些资源和规范化技术是通向瑞士德语方言全面机器翻译的第一步。

    Oct, 2017

  • 评估历史文本标准化系统的泛化能力

    本文简要讨论了历史文本规范化系统的评估问题，通过比较两个神经模型和一个基准系统，阐释了我们的评估方法，并得出结论，未来的工作应包括更严格的评估，包括可能的内在和外在度量。

    Apr, 2018

  • 神经机器翻译模型在历史拼写规范化上的评估

    本文应用不同的NMT模型来解决五种语言的历史拼写规范化问题，结果显示NMT模型比SMT模型在字符错误率方面表现更好，其中RNN模型的性能与GRU/LSTM类似，Transformer模型只有在提供更多的训练数据后才有更好的效果，而子词级别的模型在低资源语言中比字符级别的模型表现更好，并提出了一种混合方法进一步提高历史拼写规范化的性能。

    Jun, 2018

  • 历史文本规范化系统的大规模比较

    本文介绍迄今最大的历史文本规范化研究，涵盖了基于规则、距离度量、基于字符的机器翻译、神经编码器-解码器模型等所有提出的规范化技术类别，并使用不同的数据集和评估方法进行比较，分析了训练数据数量的影响，并提供了公开的数据集和脚本。

    Apr, 2019

  • hmBERT: 历史多语言语言模型用于命名实体识别

    本篇研究讨论了针对历史文本进行命名实体识别的挑战，并提出使用大型历史语言模型 hmBERT 预训练来解决标注数据不充足的问题，并使用 HIPE-2022 共享任务来评估模型性能。

    May, 2022

  • 濒危语言的文本规范化：以利古里亚语为例

    本文提出一种有效的Ligurian文本标准化方法，利用基于变压器的模型实现了较低的错误率，并在公共数据集上公开发布了Ligurian语言的首个单语语料库。

    Jun, 2022

  • 波兰文本历时规范化的两种方法

    该论文讨论了波兰文本的两种历时归一化方法: 基于手工模式和基于文本到文本转换转换器架构的神经归一化模型。论文详细讨论了为任务准备的训练和评估数据，以及用来比较所提出的归一化解决方案的实验。进行了定量和定性分析，结果显示，在当前阶段的问题研究中，基于规则的解决方案在准备的数据集的4个变体中有3个表现更好，尽管在实践中，这两种方法都有各自的优势和劣势。

    Feb, 2024

  • 文本规范化对中世纪文书分类的相关性研究

    本研究探讨了历史文本规范化对中世纪文书分类的影响，特别是在文档年代和位置检测方面。研究发现，虽然规范化在位置检测中略有改善，但却降低了年代识别的准确性，表明原始文本中包含的重要特征可能会被规范化掩盖。这提示我们在历史文本规范化时需谨慎，以保留对分类任务至关重要的文本特性。

    Aug, 2024