Jul, 2023

通过单调约束提高论文连贯性评估的泛化能力

PDF
TL;DR我们提出了一个一致性评分模型，它由两个特征提取器组成：本地一致性判别模型和标点修正模型。使用梯度提升回归树作为回归模型，并对输入特征施加单调性约束，结果表明我们的模型在未见数据上具有更好的泛化能力。该模型在 NLPCC 2023 的 7 号共享任务的第一项中获得第三名，此外，我们还对剩余的项提出了解决方案，在第二项中获得第二名，在第三项和第四项中获得第一名。
coherencereadabilityessayscoringregression model
发现论文，激发创造
  • 自动一致性评估的新型计算和建模基础

    该论文提出了一种正式和计算的口头表达的一致性的设置和评估方法，该方法通过联合训练多种任务的模型，在评估一致性的各个任务上表现出更好的性能，为大规模自动评估一致性提供了坚实的基础。

    Oct, 2023

  • 跨领域可传递的神经连贯性模型

    本研究探索了一种本地判别神经模型来提高文本的一致性，这样可以实现更广泛的领域泛化，从而显著提高了文章的可读性。

    May, 2019

  • CoheSentia：生成文本中增量与整体一致性评估的新型基准

    自然语言处理中自动生成文本的一致性评估和分析的新基准，旨在发展更可靠的一致性评估方法。

    Oct, 2023

  • 一种用于连贯性建模的多任务学习方法

    本研究提出一种层次神经网络模型，通过多任务学习，同时预测文档层次的信息连贯得分和词级别的语法角色，利用两个任务之间的归纳转移，提高模型泛化能力，并在不同任务中达到了新的最优表现。

    Jul, 2019

  • 冰山之尖外：文本分类器的连贯性评估

    通过一种新的预测一致性评估框架来评估大规模预训练语言模型的能力，该框架可以快速、有效地提供对机器预测一致性的见解。

    Sep, 2021

  • 朝向连贯且凝聚的长文本生成

    本文提出了一种新的神经语言模型，它具备两个神经鉴别器，可以在句子层面（内聚性）和段落层面（连贯性）提供反馈信号，并且使用了一种称为负关键序列训练的简单而有效的策略梯度方法进行训练。结果表明，相对于基线（基于双向 MLE 训练的复发关注神经语言模型），我们的方法有效改善了模型表现。

    Nov, 2018

  • 利用神经模型中的连贯性和句法特征进行自动作文评分的潜力开发

    本文研究了自动论文评分中预测整体得分的多种方法，包括预训练的神经网络模型、连贯性模型和混合模型。提出了一种新颖的方法，利用基于 prompt-learning NSP 的论文连贯性特征提取和表示，通过采用句法特征密集嵌入增强 BERT-based 模型的性能，并结合连贯性、句法信息和语义嵌入进行实验，证明了优越性能。进一步分析对未来的研究也有用处。

    Nov, 2022

  • 重新思考自监督目标，用于可泛化的连贯建模

    本文研究利用基本的神经模型架构，结合对比学习中的负采样和硬负采样策略以及大规模全局负采样队列的增强效应，在任务独立测试集上进行一致性模型的评估和下游任务的改进。结果表明，增加负样本密度和使用全局负采样队列结合硬负采样可以显著地提高模型的性能表现。

    Oct, 2021

  • 使用图卷积网络建模文档结构相似性进行连贯度评估

    研究了一种基于 GCN 的连贯性模型，能够捕捉文档之间的结构相似性，实现对语篇的连贯性评估和自动化文本评分，并在两个任务中实现了总体最佳。

    Jun, 2023

  • 针对对抗性输入的神经自动化论文评分和连贯性建模

    研究 AES 中的对手输入问题，提出了基于神经网络的局部连贯模型，与现有 AES 模型联合训练，实现了对对手输入的有效识别，从而提高了神经作文评分模型的准确性。

    Apr, 2018