基于对偶的正则化器用于语义匹配知识图谱嵌入
引入半监督几何规范化对齐方法(GeRA)来对齐预训练单模态编码器的嵌入空间,通过利用不配对(无标签)数据的流形几何来改善对齐性能,引入了基于扩散算子的几何损失项来防止对局部几何的扭曲,GeRA 是模态不可知的,可以用于对来自任何数据模态的预训练编码器进行对齐,我们的实验证明,在语音 - 文本和图像 - 文本对齐领域,我们的方法较一些主流基线方法在对齐质量方面取得了显著改善,特别是在有限的配对数据量下,使用我们提出的几何规范化方法。
Oct, 2023
通过引入 Equivariance Regularizer 作为一种新的约束方法,可以通过利用 head 和 tail 实体之间的语义等变性来提高模型的泛化能力,从而有效解决了当前方法中存在的大小参数空间问题,并取得了实验结果上的显着提高。
Jun, 2022
本研究构建双视图知识图谱嵌入模型,使用复杂非欧几里德几何空间模拟两个视图,并使用球体空间、双曲空间及其交集进行统一框架学习。该模型在公共数据集上表现优异,表明其在模拟知识图谱的异构结构方面的能力更强。
Sep, 2022
提出一种双重教导方法 DualDE,用于提高知识图谱嵌入的推理效率,通过软标签评估机制和两阶段蒸馏方法,可以将高维 KGE 减少 7-15 倍,推理速度提高 2-6 倍。
Sep, 2020
本文研究使用非常简单的约束来改进 KG 嵌入的潜力。我们通过在实体表示上施加非负约束条件以及在关系表示上施加近似蕴含约束来改进 KG 嵌入效果,进一步增强了嵌入空间的结构性。实验结果表明,我们的方法简单但惊人的有效,明显且一致地优于竞争对手的基准线。
May, 2018
提出了一种上下文感知的动态知识图谱嵌入方法 (DKGE),该方法利用两个有注意力机制的图卷积网络、一种门控策略和翻译操作,通过双重表示 (知识嵌入和上下文元素嵌入) 联合模型化实体和关系及其环境,以快速获取更新的知识图谱嵌入,同时支持从头开始的知识图谱嵌入。实验证明 DKGE 在动态环境下具有良好的有效性和效率。
Oct, 2019
知识图谱嵌入模型(KGEM)被用于链接预测,学习图谱实体的向量表示,这些模型中的 KGEM 实体相似性假设保持了图谱结构在嵌入空间中的位置相似性,而本文对实体在图谱中与嵌入空间中的相似性进行了正式评估,并研究不同 KGEM 模型的相似性概念。
Dec, 2023
本文综述了知识图谱完成中的当前研究状态,特别关注了知识图谱嵌入设计的两个主要分支:基于距离的方法和基于语义匹配的方法,并探讨了与最近提出的模型之间的关联及其背后的趋势,最后讨论了利用预训练语言模型和实体关系的文本描述相结合进行知识图谱完成的新方法。
Sep, 2023