May, 2024

DGRC: 一个有效的中文多项选择阅读理解中干扰项生成的微调框架

PDF
TL;DR本研究介绍了一种名为 DGRC 的细调框架，用于生成中文多项选择阅读理解中的干扰项。实验结果表明，DGRC 显著提高了生成性能，BLEU 得分提高了 2.5 倍以上。
learner's knowledge proficiencymultiple-choice questionplausible distractorspre-trained language modelsfine-tuning framework
发现论文，激发创造
  • 提高基于检索增强预训练和知识图谱集成的多项选择题干扰项生成

    本文研究多项选择题中混淆项生成的任务，通过引入检索增强的预训练和知识图谱的集成，我们的模型在基准数据集上显著优于现有结果，最佳模型在多项选择题数据集的 F1@3 得分从 14.80 提升到 16.47，在 Sciq 数据集中从 15.92 提升到 16.50。

    Jun, 2024

  • 基于 BERT 的干扰项生成方案，整合多任务和负反馈训练策略

    本文介绍了一种新的干扰项生成方案，利用多任务和负答案训练策略，有效地生成多个干扰项，并证明该模型可以显著提高现有干扰项生成方法的质量，生成的干扰项多样化且对于多项选择题具有强大的干扰能力。

    Oct, 2020

  • 从真实考试中生成阅读理解问题的干扰项

    本文提出一种分层编码器 - 解码器框架，其中使用静态和动态注意力机制，以生成更长、语义丰富、更贴近真实阅读理解考试的干扰项，其表现优于多个强基线模型。

    Sep, 2018

  • 通过大型语言模型蒸馏和对抗对比解码进行无监督分心生成

    在阅读理解的背景下，我们提出了一种无监督的分心生成框架，利用大型语言模型作为经济高效的注释器来增强较小学生模型的分心生成能力。实验证明，我们提出的无监督生成方法大大超越了 GPT-3.5-turbo 的性能，而参数只有后者的 200 倍少。我们的无监督分心生成方法为实际阅读理解应用提供了一种经济高效的框架，无需费力的分心注释和昂贵的大型模型。

    Jun, 2024

  • 标准测试中的多项选择题自动生成干扰项

    本文提出 EDGE 自动化分心器的生成方法通过门控层和注意力机制控制分心器的正确性和可信度，取得了显著优于现有模型的新的最先进水平。

    Nov, 2020

  • 基于知识的填空式多项选择题干扰项生成

    本文提出一种新的可配置框架，用于自动为开放领域的填空式多项选择题生成干扰选项，该框架整合了通用知识库以有效地创建较小的干扰候选集，并使用功能丰富的学习排序模型来选择既合理又可靠的干扰选项。实验结果表明，我们的框架产生的干扰选项比以前的方法更可信和可靠。此数据集也可用作将来干扰选项生成的基准。

    Apr, 2020

  • 利用预测提示和大型语言模型生成多项选择题干扰项

    通过从题库自动检索题目并将其用作合适的上下文示例，本研究提出了一种引导 ChatGPT 等大型语言模型生成相关干扰项的策略，通过对现有测试集进行数量评估和教师质量评注，我们发现教师评价中有 53% 的生成干扰项被评为高质量，即可立即使用，优于最先进的模型，与零样本 ChatGPT 和少样本 ChatGPT 通过静态示例进行比较，显示了我们方法在生成高质量干扰项方面的优势。

    Jul, 2023

  • 通过大型语言模型探索数学多项选择题的自动生成方式

    研究了基于大型语言模型的自动生成干扰项的任务，发现虽然大型语言模型能生成一些数学上有效的干扰项，但它们对于预测真实学生常见的错误或误解的能力较弱。

    Apr, 2024

  • 可控难度的阅读理解问题生成

    本文研究阅读理解数据集中问题难度的难易级别，并提出了一种名为 DQG 的新问题生成设置，用于生成符合指定难度标签的阅读理解问题。我们提出了一个端到端的框架来生成指定难度级别的问题，并制备了第一个具有难度标签的阅读理解问题数据集。结果表明，我们的框架生成的问题不仅在 BLEU 等度量标准上具有更好的质量，而且符合指定的难度标签。

    Jul, 2018

  • 通过动态多任务学习实现连续问题生成

    本文提出了 “连续问题生成” 任务，使用动态多任务框架生成逻辑相关的问题 - 答案对，全面考虑准确性、覆盖范围和信息量，并使用求精法（reranking）提高提问质量，提升 NLP 相关任务的效果。

    Nov, 2022