Apr, 2023

SimpLex: 一个词汇文本简化架构

PDF
TL;DRSimpLex 是用于将英文文本简化的新型架构，可以使用词嵌入和困惑度或句子变换器和余弦相似性来生成简化的英文句子。使用 SARI 和困惑度减少两个指标评估了该系统，实验表明，变压器模型在 SARI 得分方面优于其他模型，然而，基于词嵌入的模型在困惑度方面实现了最大的降低。
text simplificationlexical complexitysyntactic complexitysimplextransformer models
发现论文，激发创造
  • 多层次模块化方法的词汇简化

    本文介绍了我们队伍 “teamPN” 为英语子任务所做的工作，我们创建了一个模块化的流水线，将现代转换器模型与传统的 NLP 方法相结合，创建了一个多级和模块化的系统，用于根据词性标注处理目标文本，以实现文本简化的目标。

    Feb, 2023

  • 使用预训练编码器进行词汇简化

    本研究使用 Bidirectional Encoder Representations from Transformers (BERT) 模型，基于序列接受面向上下文、利用未标注数据训练能力，对于未知词语的语境下，对其进行了无监督的简化，显著提高了效果。

    Jul, 2019

  • 使用 Transformer 进行句子简化 -- 以五岁孩子的语言为解释

    本文使用预训练转换器模型探讨了简化句子的方法，并在 Mechanical Turk 数据集上结合 GPT-2 和 BERT 模型取得了 46.80 的最佳 SARI 得分，明显优于之前的最新研究成果。

    Dec, 2022

  • 词汇简化的深度学习方法：综述

    本文针对近几年来人工智能 / 自然语言处理 community 中深度学习的进步，特别是大型语言模型和 prompt 学习的引入，在词汇简化领域（Lexical Simplification，LS）进行了全面的研究和调查，特别关注深度学习，在具体实践中展示了该任务的子任务，并提出未来的发展方向和基准数据集。

    May, 2023

  • 多语言可控变压器模型词汇简化

    提出了一种基于 Transformer 的多语言可控词汇简化系统，使用语言特定的前缀、控制标记和候选词从预训练的掩蔽语言模型中提取较简单的替代词，该系统在三个公开的词汇简化数据集上优于之前的最先进模型，表现良好。针对最近的 TSAR-2022 多语言 LS 共享任务数据集也展现出很强的性能，且在西班牙语和葡萄牙语中获得性能提升。

    Jul, 2023

  • 论文标题：论从复杂句子到关联命题的言语感知文本简化

    在语义上意识到文本中的句子结构和上下文联系，通过将复杂句子进行拆分和重新表述，生成有语义层次的简化句子，以提高自然语言处理应用的预测质量。

    Aug, 2023

  • MANTIS 参加 TSAR-2022 共享任务：基于预训练编码器的无监督词汇简化改进

    该研究是关于 TSAR-2022 共享任务中字词简化的贡献，采用 RoBERTa 转换器语言模型扩展了无监督识别的词汇简化系统，通过采取一系列特征加权方案和基于文本蕴含的简化筛选方法，提高了系统的性能表现达 5.9％的精度，排名第二。

    Dec, 2022

  • 可控的句子简化：应用句法和词汇约束

    通过对句子语法和词汇约束的控制，本文提出了一种可以满足不同用户简化需求的 CROSS 句子简化模型，使用 Transformer-based 结构，在两个基准数据集上实验表明，语法和词汇约束对于成功的简化至关重要。

    Oct, 2019

  • (心理 -) 语言学特征与 Transformer 模型相遇：改进可解释和可控的文本简化

    本研究旨在通过建立使用预训练语言模型的（心理）语言学特征的透明度较高的文本简化系统来提高可解释性和可控性，并利用提前设定的十种属性，拓展一种 Seq2Seq TS 模型，使其能够明确控制多个属性。实验证明我们的方法在解释复杂度预测方面表现优异，并且通过明确地将 Seq2Seq 模型的条件限制于十个属性，其性能在领域内外环境中均有显著提高。

    Dec, 2022

  • 一种基于 LSTM 编码器 - 解码器模型的文本简化实验研究

    本文通过使用 LSTM Encoder-Decoder 模型实现了句子级别的文本简化，该方法与传统的基于词法规则或手动定义规则的方法相比具有更好的效果。该模型可以学习具有一定规律的操作，如反转、排序和替换，因此可以被应用于修改句子结构、替换和删除单词等文本简化中。

    Sep, 2016