Jul, 2023

大型语言模型生成的儿童故事的可信度

PDF
TL;DR大语言模型（LLMs）在生成文学文本方面显示出巨大的能力。然而，它们在生成儿童故事方面的有效性尚未得到全面的考查。在本研究中，我们使用各种指标评估 LLMs 生成的儿童故事的可靠性，并将我们的结果与旧的和新的儿童故事进行对比，以更好地评估它们的重要性。我们的研究结果表明，LLMs 在生成儿童故事方面仍然存在质量和细微之处的困难。
large language modelschildren's storiestrustworthinessevaluationquality
发现论文，激发创造
  • TrustLLM：大型语言模型的可信性

    介绍了 TrustLLM，这是一个关于 LLM（大型语言模型）信任度的综合研究，包括不同维度的信任度原则、建立的基准、评估和分析主流 LLM 的信任度，以及对开放挑战和未来方向的讨论。

    Jan, 2024

  • 关于儿童故事的自动生成与简化

    最近，关于利用大型语言模型 (LLM) 自动生成儿童教育材料的概念变得越来越现实。本研究先考察了几种流行的 LLM 的能力，以生成词汇和可读性适合儿童的故事。然后，通过开发一个基于儿童故事领域的数据集，研究了最先进的词汇简化模型在儿童故事材料上的适用性，并通过适当的微调使其性能得以提升。

    Oct, 2023

  • 从文学角度评估大型语言模型的创造力

    该研究通过一个深入的案例研究，评估了大型语言模型在创意写作过程中作为辅助工具的潜力。研究中开发了交互式多声音提示策略，交织了背景描述、指导写作的指令、目标风格的文本示例和给定示例的关键讨论，并从文学批评的角度以及计算创造力的角度进行了定性评估。研究结果支持大型语言模型能够实现高级提示的观点。

    Nov, 2023

  • 真相告诉我：一个用于测量大型语言模型可信度的系统

    基于预定义的领域知识图谱，本文提出了一种系统的方法来衡量大型语言模型的可信度，其过程中人类参与验证和优化系统，该方法对于在卫生保健、国防、金融等关键环境中运营的实体以及所有大型语言模型用户十分重要。

    Mar, 2024

  • 大型语言模型是否可靠的评判者？一个关于 LLM 事实性评估能力的研究

    本研究旨在探讨大型语言模型作为可靠的评估器，用于评估文本生成模型生成的摘要的事实一致性，并发现其在事实性评分中的局限性。

    Nov, 2023

  • 走向可信的语言模型：大型语言模型信息质量的研究

    大型语言模型产生信息速度快，但信息质量不可信，由于预训练中的不可靠和有偏见的标记化导致信息质量下降，进而导致虚构和伪造信息。本文引入了一种新的数学信息质量评估方法，并分析了信息质量挑战和语言模型的可伸缩性规律。

    Jan, 2024

  • 关于自我纠正和语言模型信任的交叉问题

    通过探索大型语言模型的自我纠正能力，研究发现自我纠正能够提升大型语言模型的可信度和真实性，但这种改进程度会根据可信度的具体方面和任务的性质而有所不同，并发现大型语言模型在自我纠正过程中存在自我怀疑的实例，带来了一系列需要解决的新挑战。

    Nov, 2023

  • 阅读深层意义：利用作者进行短篇小说梗概评估大型语言模型

    最近的大型语言模型在总结短篇小说这一具有挑战性的任务上进行评估，结果显示这些模型在超过 50% 的总结中存在不忠实的错误，并且对于难以解释的含义也有困难，然而在最好的情况下，这些模型可以提供有思考深度的故事主题分析，并且我们还证明了语言模型对总结质量的评判与作者的反馈不一致。

    Mar, 2024

  • 大型语言模型协助人类验证真实性 -- 除非其错得令人信服

    通过与搜索引擎进行对比实验证明，大型语言模型虽然能提高事实核查的效率，但在解释错误的情况下容易让用户过分依赖，因此在高风险环境中不宜将其作为阅读检索内容的可靠替代品。

    Oct, 2023

  • 大型语言模型能否替代人类评估？

    本文介绍了使用大型语言模型（LLM）代替人类评估来评估人工智能生成的文本的潜力，探索了 LLM 对两个自然语言处理任务的开放性故事生成和对抗性攻击的评估结果，并发现 LLM 评估结果与人类专家的评估结果保持一致。

    May, 2023