May, 2020

注意力聚焦：非递归手写文本行识别

PDF
TL;DR使用变形金刚模型的多头自我注意力层，无需回归方法且具有超出预定义词汇表的单词识别能力，能实现很高的手写识别精度，即使在少量样本学习情况下也可取得满意的结果。
recurrent neural networkshandwriting recognitiontransformer modelsmulti-head self-attention layersfew-shot learning
发现论文，激发创造
  • 评估序列到序列模型在手写文本识别中的应用

    该研究提出了一种基于注意力机制的序列到序列模型用于手写体识别，其中结合了卷积神经网络进行视觉信息的提取，实验结果表明其相比于最近的序列到序列方法取得了显著提升。

    Mar, 2019

  • 基于 Transformer 的阿拉伯离线手写文本识别方法

    手写识别是模式识别和机器学习领域中具有挑战性和关键问题，其应用领域广泛。本文专注于离线阿拉伯手写文本识别问题，并引入两种替代架构，即 Transformer Transducer 和标准序列到序列 Transformer，并比较它们在准确性和速度方面的性能表现，结果显示我们的方法在识别离线阿拉伯手写文本方面优于当前最先进的方法。

    Jul, 2023

  • 端到端手写段落识别的联合分割和转录

    本文提出了一种针对离线手写段落文本识别的神经网络模型，利用注意力权重计算图像表示，实现了一种隐式行分割的可训练端到端模型，试验结果表明其性能与传统基于线段的模型竞争力相当，具有将全文档转录实现的潜力。

    Apr, 2016

  • 一种高效的端到端神经模型用于手写文本识别

    本文提出一种将卷积神经网络和序列到序列模型相结合，将图像映射到文本序列，实现手写文本识别能力，且采用 Focal Loss 方法解决文本识别的类别不平衡问题，并应用 Beam Search 算法来提升模型的解码性能，在常见的 IAM 和 RIMES 数据集上实验表明，本文提出的模型在词级别的准确率方面分别提高了 3.5％和 1.1％，达到了国际先进水平。

    Jul, 2018

  • 人类句子加工：循环或注意力？

    通过比较基于循环神经网络和 Transformer 架构的语言模型在人类语言处理方面的能力，本文揭示了 Transformer 在解释自定步调阅读时间和阅读过程中神经活动方面优于 RNN，并挑战了人类句子处理涉及循环和即时处理的普遍理念，并提供了线索检索的证据

    May, 2020

  • 一个可扩展的手写文本识别系统

    本研究主要解决将手写文本识别能力添加到大规模多语言 OCR 系统中的难点，包括数据获取，效率和集成等三个方面，通过使用在线手写数据集和基于神经网络的线识别模型等方式解决了这些问题，实现了 HTR 能力在 OCR 系统中的集成。

    Apr, 2019

  • 扫描、关注与阅读：采用 MDLSTM 关注的端到端手写段落识别

    本文提出了一种基于注意力机制的模型，用于端到端手写文字识别，可以自动识别多行手写内容，无需进行预先分割。

    Apr, 2016

  • 用循环神经网络生成序列

    本研究论文表明长短时记忆循环神经网络可以用于通过逐个预测数据点来生成具有长距离结构的复杂序列。该方法通过文本和在线手写（其中数据为实值）进行演示，然后通过允许网络对文本序列进行条件预测，将其扩展到手写合成。结果系统能够以各种风格生成高度逼真的草书手写。

    Aug, 2013

  • 使用循环神经网络绘制和识别汉字

    本文提出了一种基于循环神经网络的框架，将其作为识别和生成中文字符的判别模型和生成模型，达到了 ICDAR-2013 竞赛数据库上的最先进效果。

    Jun, 2016

  • 手写文本识别系统的最佳实践

    手写文本识别已得到迅速发展，本论文通过实验证明了在预处理、CNN 架构和 CTC 损失三个方面的简单修改，可以提高手写文本识别系统的性能。

    Apr, 2024