Jan, 2022

用于轻量化变音符恢复的扩张卷积神经网络

PDF
TL;DR本研究提出了一种基于一维膨胀卷积的字符级别方法，用于重建拉丁字母为基础、英语为主导的互联网语言环境中的发音符号。该方法比基于递归神经网络或语言建模的方法表现更佳，且适用于 Web 浏览器，尤其适用于匈牙利语等语言的应用。
diacritics restoration1d dilated convolution-based approachcharacter-levelconvolutional neural networkshungarian language
发现论文，激发创造
  • 简化模型的卷积神经网络用于音标恢复

    本文研究比较了常用的双向 LSTM 和新型的 Acausal TCN 模型在阿拉伯语、约鲁巴语和越南语标音任务上的表现，研究结果表明 A-TCN 模型不仅表现优越，而且在运行速度上也更有效率。

    Dec, 2019

  • 神经网络阿拉伯文加点：最新进展和机器翻译的新方法

    本文提出了几种用于阿拉伯文本自动标点的深度学习模型。模型既采用前馈神经网络也采用循环神经网络，包括诸如 100 热编码，嵌入式等多种增强技术。结果表明，与其他需要语言相关的后处理步骤的模型相比，我们的模型要么更好，要么与之相当。此外，我们还提出通过标点符号的使用，改善自然语言处理任务，如机器翻译。

    Nov, 2019

  • D-Nikud: 借助 LSTM 和预训练模型增强希伯来语变音符号化

    D-Nikud 是一种创新的希伯来语音符标注方法，它将 LSTM 网络和基于 BERT 的预训练模型的优势相结合。通过模仿 Nakdimon 方法论，我们将其与 TavBERT 预训练模型结合，我们的系统采用了先进的架构选择和多样化的训练数据。我们的实验展示了在多个基准数据集上的最先进结果，特别强调现代文本和更具体的性别音符标注。

    Jan, 2024

  • 使用深度神经网络进行阿拉伯文标点符号标注

    本研究通过对现有系统、度量和资源的批判性回顾，提供了一个可以用于基准测试阿拉伯文连字的免费清洗数据集。实验结果表明，神经 Shakkala 系统相对于传统的基于规则的方法和其他闭源工具具有更好的连字错误率表现。

    Apr, 2019

  • 用于文本分类的深层卷积神经网络

    本文介绍了一种新的基于 VDCNN 的文本处理体系结构，通过使用 29 个卷积层，仅使用小型卷积和池化操作，该模型的性能得到了提高，并且在多个公共文本分类任务上，相对于现有模型，且在文本处理中使用非常深的卷积神经网络实现了最先进水平。

    Jun, 2016

  • 使用 ByT5 转换器模型纠正变音符号和错别字

    本研究使用新开发的通用 ByT5 字节级 seq2seq transformer 模型，同时解决语言中的变音符号恢复和拼写错误的问题，在 13 种语言中展现强大的表现，相较于传统的拼写检查或基于词典的方法表现更佳。

    Jan, 2022

  • 语音数据集的自动重音恢复

    使用预训练的 Whisper ASR 模型和基于 transformer 的音标恢复模型，从口语数据中生成粗略音标化的转录文本，作为额外输入，提高了自动音标恢复的性能。通过在同一领域和两个领域外测试集上进行实验证明，该模型相较于仅使用文本的等效模型，至少可以降低 5% 的音标错误率。这些结果凸显了当前基于文本的音标恢复模型在口语数据集上的不足，并为基于口语的音标恢复提供了新的基准。

    Nov, 2023

  • 使用 BERT 进行变音符号恢复并分析其在捷克语中的应用

    本文提出了一种基于上下文化嵌入（BERT）的新型变音符号恢复体系结构，并在 12 种带有变音符号的语言上进行了评估。此外，我们对捷克语进行了详细的错误分析，最终我们对真实错误进行了分类。

    May, 2021

  • 无字典恢复希伯来文变音符

    本文介绍了一种采用双层字符级 LSTM 模型的自动化加点方案 NAKDIMON，可用于对希伯来文进行加点，且在现代希伯来文多样化数据源方面的表现接近于其他更加复杂且需要手动维护资源的系统。

    May, 2021

  • 一种多层卷积编码 - 解码神经网络用于语法错误纠正

    本研究提出了一种基于多层卷积编码 - 解码神经网络的自动文本纠错方法，利用字符 N-gram 信息来初始化 embeddings，通过 attention 机制捕捉局部文本语境并使用 N-gram 语言模型和编辑特征进行打分和融合，实现了比现有基于统计学习的方法更好的语法和流畅度的纠错效果。

    Jan, 2018