ACLNov, 2023

GEC-DePenD: 非自回归文法错误修正与解码的解耦置换

PDF
TL;DR我们提出了一种新的非自回归方法来解决语法错误纠正的问题，该方法使用置换网络和基于逐步展开去噪自编码器的解码网络，通过一次前向传递找到最佳输入序列的排列，避免了自回归方法的构建，实验结果表明我们的网络比以前所知的非自回归方法有更好的效果，并达到了不使用特定语言合成数据方法的自回归方法的水平。
grammatical error correctionnlp tasknon-autoregressive approachpermutation networkautoregressive methods
发现论文，激发创造
  • 利用去噪抽象意义表示进行语法错误纠正

    本文提出了一种基于 AMR 的 seq-to-seq 模型，并探索了降噪方法，以使 AMRs 更可靠，实验证明该模型可以用于语法纠错。

    Jul, 2023

  • 使用迭代解码的弱监督语法错误校正

    利用大量弱监督的双语数据，训练 Transformer 序列到序列模型，并采用迭代解码策略来进行语法错误纠正，最终在 CoNLL'14 基准测试上获得 F0.5 为 58.3，在 JFLEG 上获得 GLEU 为 62.4，即使不使用任何有标记的 GEC 数据，在 CoNLL'14 上的 F0.5 也能达到 48.2。

    Oct, 2018

  • 一个基于 BERT 的无监督语法错误纠正框架

    本文提出了一种基于 BERT 的无监督语法错误校正框架，该框架将语法错误校正视为多类别分类任务，涵盖数据流构建模块、句子困境评分模块和误差检测和校正模块，并提出了一种新的伪困境评分方法来评估句子的可信度，并构建了 Tagalog 语料库进行研究，其表现竞争性较强，证明了该框架对于低资源语法错误校正任务很有用处。

    Mar, 2023

  • 基于有限状态转换器的神经语法错误纠正

    介绍了一种基于语言模型和有限状态转换器的语法错误更正方法，与神经序列模型和基于短语的机器翻译相比具有更好的效果，同时无需大量的标注数据，并且在拥有标注数据的情况下，该方法也适用于基于短语的机器翻译。

    Mar, 2019

  • 将语法错误纠正作为类 GAN 的序列标注

    本研究提出了一种 GAN 类似的序列标注模型，采用 Gumbel-Softmax 采样和真实的错误分布来进行语法纠错，以解决传统模型训练与推理不匹配的问题，实验结果表明该方法有效，并改进了之前的最先进基准。

    May, 2021

  • 纠正语法错误的 RedPenNet：单词级输出，注意力范围为片段

    我们的研究旨在应用 RedPenNet 方法解决乌克兰语的语法错误纠正问题，通过减少具体 Sequence-To-Edits 模型中的架构和参数的冗余，保持半自回归的优势，我们的模型在 BEA-2019（测试）上达到了 77.60 的 $F_{0.5}$ 分数，可以被视为最先进的，而在 UAGEC + 流利度（测试）基准上达到了 67.71 的分数。

    Sep, 2023

  • 通过通用语言模型实现的检测纠正结构用于语法错误校正

    本研究介绍一种名为 DeCoGLM 的综合检测和纠错结构，通过使用 General Language Model (GLM) 为基础，提供了在单个模型中进行多任务学习的方法，并表明该结构在大型语言模型中的有效性，为语法纠错提供了一个有前途的方向。

    May, 2024

  • 一种用于语法错误校正的嵌套注意力神经混合模型

    通过基于嵌套注意力层的混合神经模型，将神经机器翻译方法发展应用于语法纠错，实验证明该模型对单词或字符水平上的错误检测和修复均具有良好的效果，并在 CoNLL-14 基准测试数据集上明显优于以往的神经模型，尤其对小修改的局部错误有明显的改善。

    Jul, 2017

  • 学习如何结合语法纠错

    本研究提出了自动检测系统强度或多个系统组合的方法，在所有测试配置中一致优于最佳独立系统，并对 BERT 的应用进行了分析，同时呈现了对本任务创建的拼写检查器的实验结果。

    Jun, 2019

  • SynGEC: 带定制的 GEC 导向解析器的句法增强语法错误修正

    该研究提出了一种名为 SynGEC 的句法增强语法纠错方法，它有效地将依赖句法信息纳入 GEC 模型的编码器部分，其中重点挑战是在处理不合语法的句子时，标准分析器是不可靠的。为了克服这一挑战，我们提出使用并行 GEC 训练数据作为枢轴构建定制的 GEC 定向解析器 (GOPar)，并采用图卷积网络来编码 GOPar 产生的源侧句法信息，将它们与转换器编码器的输出融合，在英汉 GEC 数据集上的实验表明，我们提出的 SynGEC 方法一致且大幅优于强大的基准，并取得了有竞争力的性能

    Oct, 2022