ICMLAug, 2017

预测常识本体的改进表示学习

PDF
TL;DR本文研究了利用学习表示的空间的内在几何结构来实现自动遵守复杂结构约束的本体 (分层和部分有序结构) 学习的最新工作，并探讨了对一种此类模型的两种扩展，旨在提高通识知识表示文本数据的性能。通过混合学习排序关系和非分层知识，以及利用训练数据的部分有序结构找到在配对训练过程中不好执行的嵌入之间的长距离 triplet 约束，我们发现这两种扩展都优于原始的 order-embedding 模型和其他强基线模型。
ontologiesrepresentation learninghierarchical relation learningtext datacommonsense knowledge representation
发现论文，激发创造
  • 图像和语言的序列嵌入

    本文倡导明确模拟视觉 - 语义层次中的偏序结构，介绍一个学习有序表示的通用方法，并展示了如何将其应用于涉及图像和语言的各种任务中，特别是超义预测和图像字幕检索，结果表明得到的表示优于当前方法。

    Nov, 2015

  • 从知识图谱嵌入到本体嵌入？向量空间表示和规则之间的兼容性分析

    本文提出了一种基于关系视图的框架，使我们可以研究本体知识和不同类型向量空间嵌入之间的兼容性，并证明了一些现有的嵌入方法无法建模一些简单的规则，同时研究了关系建模为凸区域的模型，发现使用凸区域可精确表示所谓的准链式存在量规则的本体，从而对于所有在这个向量空间内运用的事实都是逻辑一致和推导闭合的。

    May, 2018

  • 层次密度排序嵌入

    本论文提出了一种基于概率密度的单词嵌入模型 —— 密度顺序嵌入模型。该模型通过实现简单而有效的损失函数和距离度量以及基于图的方案选择负样本，学习到分层的概率密度表示。实验结果表明，此方法在 WordNet 层级关系预测任务和 HyperLex 语义蕴涵数据集上表现出了最先进的性能，并保留了丰富而可解释的密度表示。

    Apr, 2018

  • 使用简单约束改进知识图谱嵌入

    本文研究使用非常简单的约束来改进 KG 嵌入的潜力。我们通过在实体表示上施加非负约束条件以及在关系表示上施加近似蕴含约束来改进 KG 嵌入效果，进一步增强了嵌入空间的结构性。实验结果表明，我们的方法简单但惊人的有效，明显且一致地优于竞争对手的基准线。

    May, 2018

  • 面向本体增强的大型语言模型表示学习

    通过注入本体知识来改进嵌入式大语言模型（embedding-LLM），本研究利用广泛的本体使用和基于对照学习框架，通过医学疾病本体的生物医学文档，展示了提高嵌入式 LLM 在描述疾病领域中的相似性评估能力的实验结果。

    May, 2024

  • 使用蕴涵锥嵌入的分层图像分类

    该论文提出了一套使用嵌入到分类标签中的类层次结构信息，通过改进算法进行图像分类和表示学习的方法，并将其在 ETHEC 数据集中进行了实证测试。

    Apr, 2020

  • 从词嵌入解释知识图谱关系表达

    研究利用词嵌入的理论，将知识图谱关系分为三种类型，并为每种类型导出其表示法的明确要求，以了解知识图谱数据的潜在结构如何被不同表达方法所捕捉。

    Sep, 2019

  • 关系嵌入的提升规则注入

    本文提出了一种高效的基于关联规则的方法，将实体元组嵌入映射到近似布尔空间中，通过从 WordNet 中进行的关联规则挖掘来鼓励关系嵌入上的部分排序，以实现自动化知识库的构建。通过引入少量的常识规则，相较于矩阵分解基准方法，实现平均精度的 2 个百分点的提高，并观察到运行时间几乎没有增加。

    Jun, 2016

  • 学习实体和关系的表征

    本文提出了三种知识图谱表征模型，分别是 HypER、TuckER 和 MuRP，它们都能够自动预测缺失的关系，并且在性能方面不断取得进步。同时，该文还将最新的理论研究成果推广到了知识图谱的领域，探讨了如何在这些模型中编码不同种类的关系。

    Jan, 2022

  • 贝叶斯表示学习与 Oracle 约束

    提出一种将生成式无监督特征学习与概率上的三元组信息处理相结合的方法，将隐式的 oracle 知识转移为显式的非线性贝叶斯潜在因子模型，并证明该方法在学习表示方面优于以前的度量学习方法和没有此类副信息的生成模型。

    Jun, 2015