May, 2024

AraSpell：一种用于阿拉伯语拼写纠正的深度学习方法

PDF
TL;DR使用不同的 seq2seq 模型架构（如递归神经网络（RNN）和 Transformer）和人工数据生成进行错误注入，本研究介绍了一种用于阿拉伯语拼写纠正的框架 AraSpell，并通过彻底的实验研究提供了所提方法的有效性的经验论据，其与标记数据相比，词错误率（WER）和字符错误率（CER）分别达到了 4.8% 和 1.11%，与标记数据相比，CER 分别为 2.9%，WER 为 10.65%。这些结果都是在一个包含 100K 个句子的测试集上获得的。
发现论文，激发创造
  • 基于监督学习的阿拉伯语拼写纠正

    利用 QALB 语料库中提供的经过标注的代表有错误和更正版本的句子，本文的系统使用不同的机器学习模型对四种类型的拼写错误（修改、前添加、拆分和合并）进行修正，最终在 QALB 2014 年 “自动阿拉伯语错误修正” 任务中获得了 6 名中的第六名，F1 得分为 0.6。

    Sep, 2014

  • SpellMapper：基于 n-gram 映射的 ASR 自定义非自回归神经拼写检查器

    使用新颖的基于拼写错误 n-gram 映射的候选检索算法和 BERT 架构的非自回归神经模型，相较于基线 ASR 系统，在口语化维基百科上的实验显示，字错误率提高了 21.4％。

    Jun, 2023

  • 使用嵌套 RNN 模型和伪训练数据进行拼写错误纠正

    提出了一种基于嵌套循环神经网络的英语拼写错误校正模型，并基于语音相似性生成伪数据进行训练。该模型将正字法信息和上下文作为一个整体融合，并进行了端到端的训练。实验证明，该方法在拼写错误的纠正方面优于现有系统。

    Nov, 2018

  • 基于上下文的独立神经拼写校正

    本文提出了一种利用拼写信息和全局上下文信息共同解决自然语言处理中拼写纠错问题的简单、有效方法，即通过改进预训练语言模型的微调，将拼写纠错看作一个序列标注任务，并在此基础上显著提升之前最先进结果 12.8% 的 F0.5 评分。

    Nov, 2020

  • 一种用于端到端语音识别的拼写校正模型

    该研究提出了一种新方法以训练拼写纠错模型来纠正注意力机制序列到序列语音识别模型中的错误，从而改进了性能。在 LibriSpeech 数据集上，该模型相对于基线模型的相对改进为 18.6％，相对于使用扩展语言模型重新评分的 n-best 列表的改进为 29.0％。

    Feb, 2019

  • DPCSpell：基于 Transformer 的孟加拉语和资源稀缺的印度语拼写错误检查器、净化器和修正器框架

    本文介绍如何利用去噪变形器来解决自然语言处理中的拼写错误纠正问题，还提出了一种从头创建大规模语料库的方法，并在孟加拉语的拼写错误纠正中获得显著性能优于现有方法的结果。

    Nov, 2022

  • 矫正真实世界的拼写错误：一种新的混合方法

    本文提出了一种新的混合方法，该方法结合了统计和句法知识来检测和纠正现实世界中的单词拼写错误，并使用 Constraint Grammar（CG）区分搜索空间中一组校正候选项。

    Feb, 2023

  • 基于字符注意力机制的神经语言纠错

    本文介绍了一种基于神经网络的自然语言校正方法，该方法以字符级别操作避免了词汇表外的问题，并展示了在语言学习者论坛收集的数据集上的灵活性和性能。与语言建模相结合后，该方法在 CoNLL 2014 共享任务中实现了最先进的 $F_{0.5}$- 分数。

    Mar, 2016

  • BSpell：基于 CNN 和 BERT 的孟加拉语拼写检查器

    本文提出了一种专用于孟加拉语单词拼写检查的 BERT 模型 BSpell，并采用了专用 CNN 子模型 SemanticNet 和混合预训练方案，使其在存在拼写错误的情况下实现了高度变形的孟加拉语词汇的 91.5％的精度，在两个孟加拉语和一个印地语的拼写纠正数据集上的详细比较表明了 BSpell 的优越性。

    Aug, 2022

  • 神经网络阿拉伯文加点：最新进展和机器翻译的新方法

    本文提出了几种用于阿拉伯文本自动标点的深度学习模型。模型既采用前馈神经网络也采用循环神经网络，包括诸如 100 热编码，嵌入式等多种增强技术。结果表明，与其他需要语言相关的后处理步骤的模型相比，我们的模型要么更好，要么与之相当。此外，我们还提出通过标点符号的使用，改善自然语言处理任务，如机器翻译。

    Nov, 2019