使用大规模预训练语言模型自动产生基于事件级别的时间图的第一项研究，通过使用现有的信息提取 / 自然语言处理工具自动生成大量文档 - 图对，并将上下文化图的产生问题作为序列到序列映射任务提出创新方案，我们的实验表明，我们的方法在生成结构和语义有效的图方面非常有效。

Oct, 2020

本文介绍了 CALLMSAE，这是一个基于 CAscading Large Language Model 框架的关键事件图生成方法，它利用 LLMs 的能力，无需昂贵的人工注释。实验结果表明，该方法生成的关键事件图更准确，胜过竞争性基线模型。

Jun, 2024

我们提出了一种新的方法，将无结构文本中的实体和关系提取作为条件序列生成问题，采用基于跨度的方法生成线性化图，其中节点表示文本跨度，边表示关系三元组。通过跨度表示，我们的模型可以捕捉实体和关系的结构特征和边界，并通过指向机制将生成的输出与原始文本进行关联。基准数据集上的评估验证了我们方法的有效性，展示了竞争性的结果。

Jan, 2024

我们提出了一种新的基于文本的时间推理模型 TempGraph-LLM，通过将上下文翻译成时间图，教导大型语言模型 (LLMs) 学习时间概念。我们证明了在其他任务上的预训练对 LLMs 的效益，并通过思路链的引导和特殊数据增强引导 LLMs 进行符号推理，观察到符号推理带来更一致可靠的结果。

Jan, 2024

利用大型语言模型生成事件序列，填补知识图中的知识空白，并通过模式挖掘和概率事件模型发现有用的和更复杂的结构化知识。

Jan, 2024

通过利用大型语言模型，研究利用自回归时间序列预测模型（AutoTimes）处理时间序列数据，该模型利用基于语言建模学习的通用令牌转换，具备灵活的系列长度和较高的性能。

Feb, 2024

使用大语言模型从科学文献中提取关联关系，构建高质量的因果图。

Feb, 2024

构建时间线需要识别文章中事件的时间顺序。为了解决缺失时间信息的问题，我们开发了一个新的评估数据集 TimeSET，其中包含具有文档级顺序注释的单文档时间线。通过使用基于显著性的事件选择和部分排序，TimeSET 能够实现实用的注释工作负载。为了构建更好的自动时间线构建系统，我们提出了一个新的评估框架，通过提示开放式 LLMs（例如 Llama 2 和 Flan-T5）使用 TimeSET 来比较多个任务表述。考虑到识别事件的时间顺序是时间线构建中的核心子任务，我们还在现有的事件时间顺序数据集上对开放式 LLMs 进行了基准测试，以获得他们能力的稳健理解。我们的实验结果表明，（1）采用 Flan-T5 的 NLI 表述在其他表述中呈现出较强的性能，而（2）时间线构建和事件时间顺序仍然是少样本 LLMs 面临的挑战性任务。我们的代码和数据可以在此链接找到。

Mar, 2024

本文介绍了两种自动化技术，基于深度强化学习和奖励塑造来控制计算机生成的故事的情节，其中一种利用 PPO 对现有的基于变压器的语言模型进行微调，以生成既能连续文本又能寻求目标的故事；而另一种从不断展开的故事中提取出一个知识图谱，由含有图形注意力机制的策略网络选择由语言模型生成的一个候选连续行。我们根据自动化指标和人类参与者对连贯性和整体故事质量的排名来报告与基线和消融情况的比较。

Dec, 2021

本研究提出一种基于自动构建事件图和神经事件顾问的事件规划框架，以提高长文本生成的性能，实验结果表明，该框架不仅在事件序列生成方面表现优异，而且在故事生成的下游任务上的效果也十分显著。

Oct, 2022