本文介绍了关系机器学习中如何统计建模大型知识图谱，以预测世界中新的事实，包括潜在特征模型和图中可观察模式互补的统计关系建模方法，以及与文本信息抽取相结合，自动构建知识图谱的实践。

Mar, 2015

本文提出了一种基于层次贝叶斯模型的潜在变量模型，能更好地提取社交和生物学网络数据的结构关系并预测，相比只有一个层级的模型，本模型在预测性能上有显著的改进。

Jun, 2012

本文提出了一种新的框架来学习具有所需结构属性的多元数据的可控和通用表示，该模型利用图模型中的掩码变量表示归纳偏置，并扩展多元信息瓶颈理论来强制执行结构依赖性，从而提供原则性方法来学习一组语义上有意义的潜在因素，其反映了各种类型的期望结构，如捕获相关性或编码不变性。同时还提供了自动估计数据中依赖关系的灵活性，该框架统一了许多现有的生成模型，并可应用于各种任务，包括多模态数据建模、算法公平性和不变风险最小化。

Jul, 2020

本文提出了一种新的非参数贝叶斯多成员潜在特征模型，用来分析复杂网络中的潜在结构，并展示了其在提高潜在结构学习和压缩表示方面的优势。

Jan, 2011

通过使用通用模式和矩阵因式分解模型，同时处理文本和现有结构化数据库中的关系，以实现更精确的关系抽取。

Jan, 2013

本文提出了一种基于矩阵分解的协同过滤框架，旨在针对开放世界推荐系统中遇到的新用户进行归纳式表示学习并取得良好效果。模型使用了注意力机制进行双模型转换，运用神经信息传递技术计算新场景下用户嵌入。实验结果表明，我们的模型可实现在有限的训练数据下，针对新用户的优秀推荐，并具有等效的矩阵因式分解表现。

Jul, 2020

本论文提出一种基于类比原理的新型框架，用于大规模多关系嵌入中的潜在实体和关系的表示优化。该模型具有强大的理论能力和计算可扩展性，在基准数据集上显著优于大量代表性基线方法。此外，该模型提供了多个已知方法的优雅统一，可以证明是我们框架的特殊实例。

May, 2017

研究关系瓶颈对因式表示学习和处理灵活性的影响，并证明该瓶颈不仅改善了泛化和学习效率，而且与人类行为偏差相一致，从而促进了抽象表示的产生，使处理灵活性类似于符号。

Feb, 2024

通过预训练的语言模型 (LMs) latent language representations 的普遍使用表明它们是一种有希望的结构化知识的来源。然而，现有方法只关注每对主体 - 关系中的一个对象，尽管经常有多个对象都是正确的。为了克服这个限制，我们分析这些表示的潜力，以产生实体化的多对象关系知识。我们将问题表述为一个排名 - 选择任务。对于排名候选对象，我们评估现有的提示技术，并提出融入领域知识的新技术。在选择方法中，我们发现选择具有高于学得的关系特定阈值的对象可得到 49.5% 的 F1 得分。我们的结果突显了使用 LMs 进行多值插槽填充任务的难度，为从潜在语言表示中提取关系知识的进一步研究铺平了道路。

Jul, 2023

通过因果中介分析，我们在事实回忆过程中确认了能够表达实体和关系概念的隐藏状态，这些隐藏状态可以视为关系表示，并能够在大语言模型中提取出来。实验证明这些关系表示具有高的可信度，并且可以灵活地应用于其他事实回忆过程和实体连接。此外，我们还展示了关系表示在关系重写方面具有显著的可控事实回忆潜力。

Jun, 2024