May, 2024

多选题自动生成和标记的知识组件

PDF
TL;DR我们使用 GPT-4 为高等教育课程中的化学和电子学习的多项选择题生成知识组件 (KCs)，并通过三名领域专家的评估，分析了大型语言模型 (LLM) 生成的 KCs 与人工生成的 KCs 之间的差异。评估结果显示，非匹配的 KCs 中，评估者有统计显著性地倾向于选择 LLM 生成的 KCs。我们还开发了一个本体归纳算法，根据题目内容将评估相似 KCs 的问题进行聚类。该研究推进了自动化生成和分类评估项目中的 KC，减轻了对学生数据或预定义 KC 标签的需求。
knowledge componentsassessmentsgpt-4chemistrye-learning
发现论文，激发创造
  • 数学多项选择题生成：人类 - 大型语言模型协同

    本文介绍了一个原型工具，旨在促进语言模型与教育工作者的合作，以简化数学多项选择题生成过程。我们进行了一项试点研究，涉及数学教育工作者，以调查该工具如何帮助他们简化高质量的数学多项选择题的制作过程。研究发现，虽然语言模型能够生成良好形式的问题提示，但其生成的干扰项无法涵盖常见的学生错误和误解。尽管如此，人工智能与人类的合作有潜力提高多项选择题生成的效率和有效性。

    May, 2024

  • AI 生成（GPT-4）与人工编写的编程教育选择题的比较研究

    通过分析 GPT-4 在高等教育的 Python 编程课程中生成的多项选择题（MCQs），我们发现 GPT-4 能够产生具有清晰语言、单一正确选项和高质量干扰项的 MCQs，并且这些生成的题目与学习目标高度一致。这些研究结果对于希望充分利用最先进生成模型来支持多项选择题的编写工作的教育工作者具有潜在价值。

    Dec, 2023

  • 从人类专家到机器：一个基于 LLM 的本体和知识图构建方法

    利用开源 LMMs 进行（半）自动化构建知识图谱的可行性研究以及深度学习方法的知识图谱构建

    Mar, 2024

  • 用 LLMs 自动标记数学问题的知识概念

    基于大语言模型的知识概念标记在数学问题的自动标记任务中显示出潜力，由于其零 / 少样本学习能力，适用于教育场景中收集大规模、专业标记数据集所面临的挑战。

    Mar, 2024

  • 多项选择题生成：面向自动化评估框架的发展

    本文提出一种多选题智能生成系统，利用预训练的语言模型，根据规定的性能指标，通过读取理解语料库来生成语法准确，具有可回答性、多样性和复杂性的问题及选项。

    Sep, 2022

  • 多选题是否能够有效地检测 LLM 的能力？

    在这篇论文中，我们评估了九个大语言模型在两种语言（中文和英文）的四个问答数据集上的表现，发现大语言模型在双语的多选题中存在一种顺序敏感性，竞争第一位置的选项更容易被选择，与此同时我们提出了两种衡量大语言模型输出一致性和置信度的方法，并发现多选题相较长篇生成题在一致性和预期校准误差方面较不可靠。

    Mar, 2024

  • 基于灵活演示检索器的数学问题知识标记系统

    知识标记对于当代智能教育应用具有关键作用，本文探索采用大型语言模型（LLMs）自动化该任务，展示了 LLMs 在数学问题知识标记任务上零次和少次检测结果的强大性能，并通过提出基于强化学习的示范检索器，成功利用不同规模的 LLMs 实现更优异的性能结果同时保持上下文演示使用的高效性。

    Jun, 2024

  • 多项选择题与大型语言模型：以虚构医疗数据为例的案例研究

    利用模拟医学考题的方法评估大型语言模型在医学领域的表现，发现传统的多项选择题评估方法可能无法准确测量其临床知识和推理能力，而更强调其模式识别技能。这项研究强调了需要更强劲的评估方法，以更好地评估大型语言模型在医学背景下的真实能力。

    Jun, 2024

  • 多智能体大型语言模型进行内容知识识别

    教师数学内容知识（CK）对于教师专业发展（PD）计划至关重要。我们提出了基于多智能体 LLMs 的框架，LLMAgent-CK，用于在没有人工注释的情况下评估用户反馈与确定的 CK 学习目标的一致性，并展示了在实际数学 CK 数据集 MaCKT 上有希望的 CK 识别表现。

    Mar, 2024

  • 在上下文学习中进行知识库问答的选择

    该研究提出了一种基于 LLMs 的 McL-KBQA 框架，通过基于 ICL 的多选项将 LLMs 的 Few-shot 能力纳入 KBQA 方法，从而提高了 QA 任务的有效性和泛化性能。在两个 KBQA 数据集上的实验结果表明，McL-KBQA 具有竞争性的性能和强大的泛化性能。研究者期望从 LLMs 的角度探索 QA 任务的新方法，并获得规范和正确的答案和强大的泛化性。

    May, 2023