本文介绍了 TextEnt，一种神经网络模型，它直接从知识库（KB）中学习实体和文档的分布式表示。通过训练我们的模型来预测文档所描述的实体并将文档和目标实体映射到连续向量空间中，其性能得到了良好的评估。

Jun, 2018

本文提出了一种基于远程监督的方法，从未注释的语料库中仅使用实体和表面形式之间的映射列表，联合学习实体和文本的嵌入。与仅依赖于人类注释文本或大型知识图谱结构的先前方法相比，实验结果表明，我们的嵌入可更好地捕捉实体的相似性和关联性。

Jul, 2018

本论文提出一种基于顺序文本的知识表示学习方法，通过循环神经网络、注意力机制等实现对实体语义信息的编码和选取信息量高的语句，以及在三元组分类和链接预测任务中实现了优异的效果。

Sep, 2016

提出一种新的框架，将词汇、实体和关系嵌入到同一连续向量空间中，通过对知识图谱和纯文本的联合学习，可以更准确地完成知识图谱补全，实现实体预测、关系预测和关系分类等任务，并且相比其他基线模型，在三项任务上均可以显著且持续地提高性能。

Nov, 2016

本文提出了一种新颖而简单的技术，将来自不同结构的两个大型知识库中的概念知识（Wikipedia 和 Probase）整合起来，学习概念表示，并在两个任务上评估了概念嵌入模型：类比推理和概念分类，并展示了无监督环境中用于神经语义分析的参数识别的案例研究，相对于 gazetteer 和正则表达式等繁琐易出错的方法，我们的无监督方法具有更好的泛化能力。

Jan, 2018

本文提出一种利用对比训练和数据增强技术在 KB 图和文本对之间训练嵌入模型，以获得对齐的跨模态表示，进而 fine-tune 可以与人类判断相匹配的相似度度量，最终在无需参考文本的情况下超过或匹配现有的基准度量。

Feb, 2023

本文通过一个综合评估协议，探讨了使用预测链接的实体表示学习，并考虑了线性预测和实体分类任务以及针对面向实体的搜索的信息检索任务，通过一个预训练的语言模型体系结构，证明这些学习的表示不仅适用于 KG 特定任务，还具有比之前的方法更强的泛化性能，同时也在其他任务方面表现出色。

Oct, 2020

提出了一种增强学习模型的方案，即通过知识图谱的事实三元组来为自然语言处理任务提供上下文知识，并采用基于卷积的模型来减少关注空间，从而大大提高了文本分类和自然语言推理任务的性能。

Feb, 2018

提出了一种用多个知识库来加强大型模型表示的方法，每个知识库都通过一个集成实体链接器来检索相关实体嵌入，然后通过单词与实体关注的形式更新上下文单词表示，经实验发现知识增强的 BERT 模型具有更好的性能，且运行时间与 BERT 相当。

Sep, 2019

本文探讨了从大量相关文本中学习丰富的无监督实体表示。采用我们提出的训练策略，在多项与实体相关的任务中实现了良好的表现，如排序检索、知识库补全、问题回答等，并且无需人类监督。

Feb, 2021