ACLMar, 2022

一个神经网络对比排序模型用于阅读可读性评估

PDF
TL;DR本文提出了第一个基于神经网络的排名方法来评估文本的自动易读性。我们将其与现有的分类，回归和排名方法进行了比较，并用五个数据集进行了实验，证明我们的方法适用于单语和跨语料测试，实现了针对英文数据训练的跨语易读度评估的零 - shot 学习，同时提供了英语和法语的新双语易读度数据集。
automatic readability assessmentneural pairwise ranking approachcross-lingualbilingual readability datasetnlp
发现论文，激发创造
  • 紧密相关语言的自动可读性评估

    本文提出使用交叉语言相似性和新特征 CrossNGO，探索手工特性与机器学习模型相交互的自动易读性评估方法，以改善低资源语言的精度。在使用菲律宾三种语言的短篇小说训练模型的过程中发现，使用新特征 CrossNGO 可显著提高交叉语言易读性模型的性能，其中结合语言表示的使用可出现各自语言的最佳结果。

    May, 2023

  • 文本可读性的有监督和无监督神经方法

    该研究提出了一系列新颖的神经监督和无监督方法来确定文档的易读性。通过在多个基准和新标记的易读性数据集上系统比较几种神经体系结构，提供了不同神经方法进行易读性分类的综合分析，并展示了它们的优缺点。

    Jul, 2019

  • 阿拉伯语可读性建模策略

    本文利用不同的方法从基于规则的方法到预训练的阿拉伯语言模型，针对阿拉伯语可读性评估提供了一系列实验结果。我们在不同的文本粒度级别（单词和句子片段）上报告了新创建的语料库上的结果。我们的结果表明，结合不同的技术可以取得最佳结果，在盲测集上的宏 F1 分数在单词级别为 86.7，在片段级别为 87.9。我们公开提供我们的代码、数据和预训练模型。

    Jul, 2024

  • 基于提示的文本易读性评估学习

    本文采用预训练的 seq2seq 模型对可读性进行评估，并通过测试不同的输入输出格式 / 前缀来提高模型性能，在 Newsela 和 OneStopEnglish 上实现 99.6% 和 98.7% 的成对分类精度。

    Feb, 2023

  • 评估真实自主任务上的语言模型代理

    我们研究语言模型代理获取资源、自我复制和适应新挑战的能力，我们称之为 “自主复制和适应”（ARA），并认为 ARA 可能具有广泛和难以预料的后果，对于安全、监测和对齐方面的措施提供有用的信息，此外，一旦系统具备 ARA 能力，限制其能力可能变得更加困难。

    Dec, 2023

  • 神经网络的逐对学习排名再探：重构、理论分析和实际表现

    本文利用一种基于神经网络的成对学习排序方法，即 DirectRanker，展示了它在 RankNet 架构上的泛化能力。经过数学证明，我们的模型具有自反性、反对称性和传递性，从而实现了简化训练和提高的性能。在 LETOR MSLR-WEB10K、MQ2007 和 MQ2008 数据集上的实验结果表明，我们的模型在结构上固有的简单性和仅使用成对方法的情况下优于许多最先进的方法。

    Sep, 2019

  • 跨语言信息检索的简洁有效神经排序和重排序基线

    该研究旨在提供一种用于跨语言检索模型的组织框架，并在 TREC 2022 NeuCLIR 中的三种语言测试集上实现基于此的可重复现的基准线。

    Apr, 2023

  • RAPO: 双语词汇表归纳的自适应排名范式

    我们提出了一种用于双语词典词汇归纳的 Model RAPO，它能够为每个单词学习个人化匹配函数，从而在翻译中实现更好的性能。

    Oct, 2022

  • 使用单语数据提高非自回归神经机器翻译的性能

    利用大规模单语语料，基于知识蒸馏的方式提升非自回归神经机器翻译模型的效果，并成功地在 WMT14 En-De 和 WMT16 En-Ro 新闻翻译任务上验证了模型的性能提升。

    May, 2020

  • RankNAS: 基于成对排名的高效神经网络架构搜索

    本文提出一种称之为 RankNAS 的性能排名方法，通过配对排名是为了提高神经架构搜索（NAS）的效率，并在机器翻译和语言建模任务中进行了广泛实验，结果表明 RankNAS 可以设计出高性能的架构，同时速度比现有的 NAS 系统快几个数量级。

    Sep, 2021