深度标声符号化：用于改进阿拉伯语标声符号化的高效分层循环

COLINGNov, 2020

深度标声符号化：用于改进阿拉伯语标声符号化的高效分层循环

Deep Diacritization: Efficient Hierarchical Recurrence for Improved Arabic Diacritization

Badr AlKhamissi, Muhammad N. ElNokrashy, Mohamed Gabr

TL;DR本文提出了一种针对阿拉伯文音标的新型网络结构，使用基于词和字符层级的循环神经网络层级结构和交叉层级的注意力机制，进一步提高了网络的可解释性。使用额外技巧如句子 dropout 和多数投票进一步提高了模型性能，使得在 Tashkeela 阿拉伯文音标数据集上达到了相对误差减少 30.56% 的 5.34% WER，超过了之前最优结果。

Abstract

We propose a novel architecture for labelling character sequences that achieves state-of-the-art results on the Tashkeela arabic diacritization benchmark. The core is a two-level recurrence hierarchy that operates on the word and character levels separately---enabling faster training a

arabic diacritization recurrent hierarchy attention module softmax classifier wer

发现论文，激发创造

Fine-Tashkeel: 优化字节级模型以实现精准的阿拉伯文文字加点

本文研究如何利用预训练语言模型来学习阿拉伯语言中的符号标记，并通过微调模型来实现不需特征工程，最小化训练量的方式进行符号标记任务，从而取得了最新的指标

Mar, 2023

使用深度神经网络进行阿拉伯文标点符号标注

本研究通过对现有系统、度量和资源的批判性回顾，提供了一个可以用于基准测试阿拉伯文连字的免费清洗数据集。实验结果表明，神经 Shakkala 系统相对于传统的基于规则的方法和其他闭源工具具有更好的连字错误率表现。

Apr, 2019

神经网络阿拉伯文加点：最新进展和机器翻译的新方法

本文提出了几种用于阿拉伯文本自动标点的深度学习模型。模型既采用前馈神经网络也采用循环神经网络，包括诸如 100 热编码，嵌入式等多种增强技术。结果表明，与其他需要语言相关的后处理步骤的模型相比，我们的模型要么更好，要么与之相当。此外，我们还提出通过标点符号的使用，改善自然语言处理任务，如机器翻译。

Nov, 2019

运用部分标点化文本提升阿拉伯文标点的准确度

本文提出了一种名为 2SDiac 的多源模型，该模型可以支持输入中的可选变音符，并引入了一种名为有指导性学习的训练方案，以利用不同级别的随机屏蔽中给定的变音符号。实验结果表明，我们的方法在对非变音文本进行评估时，明显优于基准方法。同时，我们的方法参数数量减少超过 60％，达到了最先进的结果。

Jun, 2023

用于阿拉伯手写字识别的动态分层贝叶斯网络

本文提出了一种新的概率图模型，用于对突尼斯城市名称的文字进行建模和识别。采用基于动态分层贝叶斯网络的方法，采用分割和特征提取技术来减少识别过程中的复杂性和误差，实验结果非常有前途。

May, 2014

CATT：基于字符的阿拉伯语塔什基尔转换器

通过训练 Tashkeel 模型，本研究提出了一种新方法来改进阿拉伯文本处理，特别是在语音合成和机器翻译等应用中，通过消除歧义和最小化解释风险，提高对阿拉伯文本的理解能力。通过使用预训练的基于字符的 BERT 模型初始化，应用 Noisy-Student 方法提升了模型的性能，并通过实验证明其在 ATD 领域的最新成果。

Jul, 2024

在迁移学习时代的阿拉伯文加音标：只需进行标记分类

PTCAD 是一种新的两阶段方法，将自动按音素对阿拉伯文本进行音标化，并在基准数据集上取得了最先进的结果，包括相对于现有基准数据的词错误率降低了 20％，在 ATD 任务中表现出优越的性能，超过了 GPT-4。

Jan, 2024

一种基于 Transformer 模型的端到端 OCR 框架，用于识别具有变音符的大规模古典阿拉伯文多字体语料库的手写体 Arabic 识别

本文介绍了针对阿拉伯历史文献的光学字符识别技术的研究，提出了一种端到端文本识别方法 BEIT，并通过实验比较证明，该方法优于卷积神经网络的特征提取方法，达到了 4.46% 的识别准确率。

Aug, 2022

AraSpell：一种用于阿拉伯语拼写纠正的深度学习方法

使用不同的 seq2seq 模型架构（如递归神经网络（RNN）和 Transformer）和人工数据生成进行错误注入，本研究介绍了一种用于阿拉伯语拼写纠正的框架 AraSpell，并通过彻底的实验研究提供了所提方法的有效性的经验论据，其与标记数据相比，词错误率（WER）和字符错误率（CER）分别达到了 4.8% 和 1.11%，与标记数据相比，CER 分别为 2.9%，WER 为 10.65%。这些结果都是在一个包含 100K 个句子的测试集上获得的。

May, 2024

基于 Transformer 的阿拉伯离线手写文本识别方法

手写识别是模式识别和机器学习领域中具有挑战性和关键问题，其应用领域广泛。本文专注于离线阿拉伯手写文本识别问题，并引入两种替代架构，即 Transformer Transducer 和标准序列到序列 Transformer，并比较它们在准确性和速度方面的性能表现，结果显示我们的方法在识别离线阿拉伯手写文本方面优于当前最先进的方法。

Jul, 2023