Dec, 2022

使用 Transformer 进行句子简化 -- 以五岁孩子的语言为解释

PDF
TL;DR本文使用预训练转换器模型探讨了简化句子的方法，并在 Mechanical Turk 数据集上结合 GPT-2 和 BERT 模型取得了 46.80 的最佳 SARI 得分，明显优于之前的最新研究成果。
sentence simplificationpre-trained transformer modelsgpt-2bertsari score
发现论文，激发创造
  • 整合 Transformer 模型与复述规则的句子简化

    本研究提出了一种基于多层和多头注意力架构的新颖模型，并提出了两种集成 Simple PPDB 的创新方法，实现对句子的简化。该研究表明，集成 Simple PPDB 的模型在句子简化中的表现优于现有基准模型，并能够准确定位并选择更精确的简化规则。

    Oct, 2018

  • 可控的句子简化

    使用离散参数机制在序列到序列模型中为用户提供明确控制简化系统的方法，进而在简化基准测试中实现比标准模型更好的结果，并建立了 ACCESS 模型作为人群中心的句子简化的技术水平。

    Oct, 2019

  • SimpLex: 一个词汇文本简化架构

    SimpLex 是用于将英文文本简化的新型架构，可以使用词嵌入和困惑度或句子变换器和余弦相似性来生成简化的英文句子。使用 SARI 和困惑度减少两个指标评估了该系统，实验表明，变压器模型在 SARI 得分方面优于其他模型，然而，基于词嵌入的模型在困惑度方面实现了最大的降低。

    Apr, 2023

  • 可控的句子简化：应用句法和词汇约束

    通过对句子语法和词汇约束的控制，本文提出了一种可以满足不同用户简化需求的 CROSS 句子简化模型，使用 Transformer-based 结构，在两个基准数据集上实验表明，语法和词汇约束对于成功的简化至关重要。

    Oct, 2019

  • 将复杂句子转换为语义层级

    该研究提出了一种递归分割和重述复杂英语句子的方法，生成简化句子的新语义层级结构，可用于机器翻译或信息提取等人工智能任务，手动和自动评估都表明该方法在结构文本简化方面表现优于现有技术，并用于近似 346% 精度和 52% 召回率地改良现有句子提取系统的性能。

    Jun, 2019

  • 基于理解问答的文本简化

    本研究探讨并验证了通过文本简化改善阅读理解相关任务的可行性，创建了被简化过的 SQuAD 数据集 (Simple-SQuAD)，并实验表明文本简化对于基于 SQuAD 的问答任务，确实可以提高 2.04% 的精确匹配率和 1.74% 的 F1 值。

    Sep, 2021

  • 通过受控语法简化识别、测量和降低句法复杂性

    本研究提出了一种基于事实信息的控制简化方法，使用句法依赖分析将复合和复杂句子拆分为简化句子的集合，并用统计方法度量了句子的句法复杂度，通过本方法，可在不失信息的情况下简化语言，用于知识图谱中三元组的提取与构建。

    Apr, 2023

  • 基于分类和生成方法的阿拉伯语句子简化

    本文尝试构建一种现代标准阿拉伯语 (MSA) 句子级简化系统，使用两种方法进行简化：基于分类的方法和生成式方法 (mT5)，并使用 BERTScore 评估了它们的有效性。

    Apr, 2022

  • 分离和改述

    该研究提出了一种新的句子简化任务 ——Split-and-Rephrase，在将复杂句子转换为意思相同的短句子方面有着潜在的价值。该任务可以作为自然语言处理的预处理步骤，可以帮助解析器、语义角色标注器和机器翻译系统提高性能，并对阅读障碍者有帮助。该研究提出了五种模型来应对这一任务。

    Jul, 2017

  • 注视导向的语句简化对语言学习者的补充：增强理解和可读性

    这篇论文介绍了一种新颖的凝视驱动的句子简化系统，旨在提高语言学习者的阅读理解能力。通过结合凝视特征和语言特征来评估句子理解，系统识别到理解困难时，通过 GPT-3.5 将复杂的词汇和语法替换为简化的替代词汇和语法，从而提供简化版本，收集了 19 名英语学习者阅读英文文本时的眼动数据，实验结果表明我们的系统能够准确估计句子级别的理解能力，此外，我们还发现 GPT-3.5 的简化在传统可读性指标和个别单词难度、不同语言层面的释义方面提高了可读性。

    Sep, 2023