本文提出了一种新颖的潜变量循环神经网络架构，用于同时建模词序列和相邻句子之间的（可能潜在的）言语关系。它通过循环神经网络生成单个单词，并可以使用潜在变量表示言语关系。该模型可以使用既包括言语关系分类又包括词预测的训练目标，从而优于最先进的替代方案，它可以用于隐含语篇关系分类以及对话行为分类。在测试时间通过潜在言语关系求和，我们获得了一个获得语篇的语言模型，从而改进了一个强大的 LSTM 基线。

Mar, 2016

我们提出了一种使用相对较小的语言模型从文本中提取关系嵌入的方法，这种方法可以在关系相似性方面取得出色的结果，并且在关键词和模型性能方面显著优于其他基于提示的语言模型。

Sep, 2023

本文分析了当前基础 LLM (ChatGPT) 与专门的预训练模型 (REBEL) 的联合实体和关系提取应用，以可持续发展文本为案例进行了多个实验，结果表明，使用先进的 LLM 模型可以提高从非结构化文本创建知识图谱的过程的准确性，并探索了使用基础 LLM 模型自动创建本体论的潜力，取得更相关和准确的知识图谱。

May, 2023

提出了一种基于知识图谱的记忆增强自回归语言模型，通过检索相关关系以改善文本生成，实验结果表明，这种方法在困惑度和字符比特方面产生了更好的语言模型，并且关系记忆有助于生成的连贯性，是词元记忆的补充。

Jan, 2022

本研究提出了一种新的神经实体链接模型，将实体链接中的关系视为潜在变量，并在优化实体链接系统的同时诱导这些关系，同时取得了 AIDA-CoNLL 基准测试上最好的结果。

Apr, 2018

通过预训练的语言模型 (LMs) latent language representations 的普遍使用表明它们是一种有希望的结构化知识的来源。然而，现有方法只关注每对主体 - 关系中的一个对象，尽管经常有多个对象都是正确的。为了克服这个限制，我们分析这些表示的潜力，以产生实体化的多对象关系知识。我们将问题表述为一个排名 - 选择任务。对于排名候选对象，我们评估现有的提示技术，并提出融入领域知识的新技术。在选择方法中，我们发现选择具有高于学得的关系特定阈值的对象可得到 49.5% 的 F1 得分。我们的结果突显了使用 LMs 进行多值插槽填充任务的难度，为从潜在语言表示中提取关系知识的进一步研究铺平了道路。

Jul, 2023

本文介绍了开放式关系建模问题，引入了使用定义实体进行条件生成类型的关系描述的方法，并将推理路径和选择机制包括在内以帮助在知识图谱数据上进行开放式关系建模。实验结果表明，该模型能够生成简洁但信息丰富的关系描述，捕捉实体的代表性特征。

Aug, 2021

我们提出了 SLCoLM 模型协作框架，通过任务特定的预训练语言模型作为导师，将任务知识传递给大型语言模型，并在关系提取任务中进行指导，从而缓解了数据长尾问题。实验结果表明，本论文中的方法有助于提取长尾关系类型的关系提取任务。

Feb, 2024

本文提出一种利用 EMR 病历笔记来实现因果关系分析的机器学习方法，通过应用大型语言模型（LLMs）来解决医学研究中因果图构建的难题。

Jan, 2023

本文研究使用大型语言模型填补知识图谱中存在的没有被覆盖的基于评分关系的问题，提出了一个评估基准以评估现有关系嵌入策略以及最近的 LLMs，结果表明，大型模型的表现比小型模型更好，并发掘出了人类表现与模型表现之间存在的差距。

May, 2023