May, 2023

语言模型可通过少量示例引入推理，从而提高事件预测能力

PDF
TL;DR本文研究了大型语言模型在实际事件中实现推理的能力，设计了一个建模和预测框架，其中大型语言模型执行推断，以协助事件序列模型提高预测准确性，并通过在 Amazon Review 和 GDELT 两个具有挑战性的实际数据集上进行的广泛实验，展示了我们的框架的性能优势。
发现论文，激发创造
  • 从大型语言模型中提取事件序列知识

    利用大型语言模型生成事件序列，填补知识图中的知识空白，并通过模式挖掘和概率事件模型发现有用的和更复杂的结构化知识。

    Jan, 2024

  • 大型语言模型中的事件知识：不可能与不太可能之间的差距

    研究人员测试了大型语言模型是否能够生成可信的真实世界事件描述，并发现这些模型虽然能够区分可能和不可能的事件，但在区分可能性较小的事件时仍然比人类表现差，这突显了 LLM 在事件知识方面存在的局限性。

    Dec, 2022

  • 使用语言模型起草事件模式

    本研究使用大型语言模型通过自然语言来起草事件模式，之后通过人工技术进行进一步的修订并将事件知识萃取到模式中。通过实验证明，大型语言模型在两个数据集中取得了适当的关键事件回调，并且我们的方法为更轻松地从大型语言模型中提取事件知识提供了可能性。

    May, 2023

  • EvEntS ReaLM: 基于语言模型的实体状态事件推理

    本文研究事件涵义的模型，通过探讨其对物理属性的理解能力来预测实体状态变化。作者发现，传统的大型语言模型无法很好地理解这方面的知识；而通过适当的提示方式，它们的性能可以得到极大的提升，尤其是对于未知的属性或数据信息不足的情况。

    Nov, 2022

  • 语言模型对于时间序列零样本推理仍然存在困难

    时间序列推理是语言模型研究中一个有影响力但尚未充分发展的方向，本研究提出了一个新颖的时间序列推理评估框架，研究了三种推理形式的表现，并发现语言模型在时间序列推理方面仍存在局限性。

    Apr, 2024

  • 语言模型是否能够执行假设式常识推理？

    本文为解决 “Abductive Reasoning” 提出了多种方法，再现了基准模型。通过此报告，发现目前的方法仍有一些局限性。

    Jul, 2022

  • 利用关系抽象进行推理的学习

    本文介绍了一种利用关系抽象概念来帮助大型语言模型在数学推理方面提高的新方法，并发现将这种序列用作提示可使模型具有更强的推理能力，特别是在需要执行多步任务的情况下。

    Oct, 2022

  • 对比微调生成式脚本事件预测方法

    本文提出了一种基于事件中心预训练的生成式方法，其使用预先训练的语言模型 Fine-Tune 并通过对序列可能性的预测进行预测，从而软建模事件之间的关联。

    Dec, 2022

  • 语言模型是否能使用预测策略？

    深度学习系统在图像分类、基本编程和标准化测试中已经达到或超过了人类的准确率。然而，在预测未来事件的能力上，模型仍然难以取得准确的结果。本研究使用了一种新颖的真实世界事件数据集和相关的人类预测，提出了一个评估指标来衡量预测能力，并对不同基于 LLM 的预测模型在该数据集上的准确性进行了分析。结果显示，模型在预测未来方面仍然存在困难，可能是由于模型倾向于猜测大多数事件不太可能发生，这在许多预测数据集中是正确的，但并不反映实际的预测能力。我们对开发系统化和可靠的 LLM 预测方法的下一步工作进行了思考。

    Jun, 2024

  • 使用语言模型进行小样本子目标规划

    本文探讨了预训练的大型语言模型在预测现实世界环境中可行的计划方面的能力，表明预先训练的语言模型中的语言优先级允许我们推断出细粒度的子目标序列，并提出了一种通过环境的交互和反馈重新排列语言模型预测的简单策略，结合预先训练的导航和视觉推理组件在 ALFRED 基准测试中表现优秀。

    May, 2022