我们提出了一种新的基于文本的时间推理模型 TempGraph-LLM，通过将上下文翻译成时间图，教导大型语言模型 (LLMs) 学习时间概念。我们证明了在其他任务上的预训练对 LLMs 的效益，并通过思路链的引导和特殊数据增强引导 LLMs 进行符号推理，观察到符号推理带来更一致可靠的结果。

Jan, 2024

提出了一种名为 TimeGraphs 的新方法，将动态交互以分层的时间图形式建模，通过自监督方法构建多层次事件层次结构，有效地进行非均匀分布的动态推理。在多个数据集上评估 TimeGraphs 的性能，包括足球模拟器、Resistance 游戏和 MOMA 人体活动数据集，结果表明 TimeGraphs 在各种时间推理任务上都具有鲁棒性和效率，相比当前方法，在事件预测和识别任务上性能提升高达 12.2％。实验进一步证明了 TimeGraphs 的零样本泛化能力、对稀疏数据鲁棒性以及适应流数据的能力。

Jan, 2024

使用大规模预训练语言模型自动产生基于事件级别的时间图的第一项研究，通过使用现有的信息提取 / 自然语言处理工具自动生成大量文档 - 图对，并将上下文化图的产生问题作为序列到序列映射任务提出创新方案，我们的实验表明，我们的方法在生成结构和语义有效的图方面非常有效。

Oct, 2020

该论文介绍了在 GitHub 上基于日常交互构建多关系时间知识图谱的方法，并在该数据集上进行了一系列相关问题的实验，结果表明现有的时间模型在外推和时间预测查询方面表现不佳，我们通过使用相对时间信息来扩展现有的时间模型，从而克服这些缺点并回答广泛的软件工程问题。

Jul, 2020

我们提出了一种名为 TEMT 的新框架，利用预训练语言模型（PLMs）来增强文本的时间性知识图谱完成。TEMT 利用存储在 PLM 参数中的知识，能够产生丰富的事实语义表示，并且对以前未见过的实体进行推广。TEMT 将 KG 中的文本和时间信息分别处理，并将它们融合以得到事实的可信度得分。与以前的方法不同，TEMT 有效捕获不同时间点之间的依赖关系，并能对未见实体进行预测。实验结果表明，TEMT 与现有技术相媲美。

Sep, 2023

本研究探讨了在自然语言处理领域中理解文本的时间背景的方法，并介绍了一种新型语言模型 BiTimeBERT 2.0，该模型通过预训练在一个时间新闻文章集合上，利用三种创新的预训练目标以有效地获得时间感知的语言表示，从而在与时间相关的任务中实现改进的性能。实验结果显示，BiTimeBERT 2.0 在多种依赖时间的下游自然语言处理任务和应用中显著优于 BERT 和其他现有的预训练模型。

Jun, 2024

本文首次探讨了预训练语言模型在对话中的时间推理能力，并通过引入新任务 TIMEDIAL 和多项选择 cloze 测试集验证了模型的表现，同时指出模型在考虑对话上下文以及模型对于上下文中时间模式依赖性的主观推断方面存在差距，为未来时间概念建模和上下文推理方面的研究提出建议。

Jun, 2021

大型语言模型（LLMs）理解世界的关键是对时间进行推理。我们通过系统研究 38 个时间推理任务，提出了能够处理各种时间推理任务的通用框架，其中使用数学数据集为时间推理奠定了坚实基础，并通过自我批评的时间优化方法，提升了模型的时间推理能力。最终，我们开发了 Timo 模型，在 7B 和 13B 规模上在时间推理方面表现出色，并在平均准确度上超过了同类 LLMs 的 10.0 和 7.6，实现了新的最先进性能。通过广泛的实验证明了我们的框架的有效性和在不同时间任务上的泛化能力。

Jun, 2024

本文研究了关于时间知识图谱的推理问题，并提出了一种新的模型 Chronological Rotation embedding 用于学习实体、关系和时间的表示，通过高维度的旋转变换捕捉 Temporail Knowledge Graph 的富有交互性和多关系特征，实验结果表明 ChronoR 能够在时间知识图谱链接预测的基准数据集中胜过大多数最先进的方法。

Mar, 2021

本文介绍了一个全面的测试数据 empreason 来评估大语言模型的时间推理能力，包括三个时间推理水平的问题，并提出了一种基于时间跨度提取和时间敏感的强化学习的新型学习框架来提高其时间推理能力，并证明了其有效性。

Jun, 2023