Sep, 2024

基于对比学习的大型语言模型知识问答生成

HTML
PDF
TL;DR本研究针对大型语言模型在知识密集型任务中的幻觉和知识缺口问题，提出了一种改进的知识问答生成方法。通过引入对比学习，利用多个模型共同挖掘领域知识，显著提高了生成问题的质量和准确性，体现了该方法的有效性与实用性。
发现论文，激发创造
  • 通过文本到文本神经问题生成的机器理解

    本文提出了一种基于递归神经网络的模型，可以根据答案生成自然语言问题，并介绍了一种使用监督学习和强化学习相结合的方式对模型进行训练，然后通过策略梯度技术微调模型以最大化几个衡量问题质量的奖励，其中一个奖励是一个问题回答系统的表现，并通过最近的问答数据集SQuAD对模型进行了训练和评估。

    May, 2017

  • 通过生成问题和答案对自动化阅读理解

    本文提出一种基于神经网络的两阶段机制来生成问题-答案对，第一阶段采用Pointer Networks编码句子中的关键答案，第二阶段采用序列到序列模型生成问题，最终采用全局注意力和答案编码生成最相关的问题。实验结果表明我们的方法在生成问题的质量上显著优于现有方法，是自动阅读理解评估的又一步。

    Mar, 2018

  • 仿人类提问：基于文本语料库的可扩展问答生成

    本文提出了一种名为ACS-QG的问题生成系统，使用信息抽取、神经网络生成器和质量控制器自动生成高质量、多样化的问题-答案对，该系统超越了现有神经网络问题生成模型，并能从较少的数据中生成280万个高质量的问题-答案对。

    Jan, 2020

  • 基于机器学习方法的句子结构分析自动生成问题

    本文介绍了我们使用传统语言学方法和多种机器学习技术生成英语非结构化文本问句的框架，并且加入了问题评估模块，最终证明我们的生成问题质量优于其他最好的系统，并且与人类创建的问题相当。

    May, 2022

  • 提出撰写对比解释作为常识问题回答知识的先验鉴别方法

    使用CPACE模型和符号知识和解释提示来生成对比性解释，从而帮助区分问题答案，提高知识增强型方法在问答任务中的表现。

    May, 2023

  • 从教育文本中自动生成问题

    设计并评估了一个自动化问题生成工具，以便用于学校的形成性和总结性评估，通过使用基于Transformer的语言模型和生成技术，实现了模块化框架，从文本内容中自动生成多项选择题，并进行了广泛的定量和定性评估。

    Sep, 2023

  • 在教育和评估应用中探索提示式大型语言模型的能力

    利用大语言模型在现代教育领域创新的机会，通过研究提问型大语言模型、语法错误解释和人力资源面试评估，揭示了大语言模型在改变教育实践中的潜力和限制。

    May, 2024

  • 使用大型语言模型在不同布卢姆技能水平下自动生成教育问题：策略与评估

    该研究针对教育者在生成高质量教育问题时面临的挑战，提出了一种利用大型语言模型（LLMs）实现自动化生成教育问题的新方法。研究表明，采用适当的信息提示，LLMs能够生成符合不同认知水平的相关且高质量的问题，同时表现出LLMs在能力上的显著差异，并且发现自动评估无法与人工评估相媲美。

    Aug, 2024

  • 基于知识的问答生成中的对比学习

    本研究解决了大规模语言模型在知识密集型任务中面临的幻觉和知识差距问题，提出了一种结合对比学习的增强问答生成方法。实验结果表明，该方法通过设计对比示例的提示，显著提高了生成问题的质量和准确性，展示了对比上下文与思维链提示相结合的有效性。

    Sep, 2024

  • 生成式人工智能时代学习的未来：大型语言模型的自动问题生成与评估

    本研究探讨了大型语言模型（LLMs）在教育领域中自动问题生成和答案评估的转型潜力，填补了高效学习工具的空白。通过解析LLMs的工作机制以及创新的提示技术，研究展示了如何生成多样化和相关性强的问题来适应学习需求，同时实现了准确的答案评估和反馈，具有显著的教育提升潜力。

    Oct, 2024