Jun, 2022

ER: 等变正则化程序用于知识图谱补全

PDF
TL;DR通过引入 Equivariance Regularizer 作为一种新的约束方法，可以通过利用 head 和 tail 实体之间的语义等变性来提高模型的泛化能力，从而有效解决了当前方法中存在的大小参数空间问题，并取得了实验结果上的显着提高。
knowledge graph completiontensor factorizationregularizersequivariance regularizerrelation prediction
发现论文，激发创造
  • 基于张量分解的知识图谱补全的对偶引导正则化方法

    该论文提出了一种新的正则化方法 DURA，基于张量分解的知识图谱补全模型，在多个实验中验证了其效果和多样性。

    Nov, 2020

  • 基于对偶的正则化器用于语义匹配知识图谱嵌入

    本文提出了一种新型约束策略：由原始语义匹配 KGE 模型得到一个存在的与之关联的距离型 KGE 模型，将其用作实体嵌入的约束，使得语义相似的实体具有相似的嵌入，并在静态和时间知识图上显著提高了现有语义匹配模型的性能。

    Mar, 2022

  • 基于复杂张量分解的知识图谱补全

    本文介绍了一种基于复杂嵌入的统计关系学习方法，在实现表达能力和时间 / 空间复杂度之间权衡的同时，探索了这种复杂嵌入和酉对角化之间的联系，提出的嵌入方法仅涉及共轭内积，具有良好的可扩展性和高准确率。

    Feb, 2017

  • 知识增强的张量分解在知识图谱事实预测中的应用

    本文提出了一族新的方法，将知识图谱嵌入到实值张量中，使用这些基于张量的嵌入可以更加准确地预测新事实。通过实证评估，证明了这些张量分解模型的有效性和可靠性。

    Feb, 2019

  • 不确定性规范化的证据回归

    本文介绍了一种结合深度学习和 Dempster-Shafer 理论的新方法，即证据回归网络 (ERN)，用于预测目标并量化相关不确定性。通过理论分析，我们发现一种限制模型性能的约束，并引入一种改进方法以克服此限制。我们探索了 ERN 并提出了一种新的正则化项，使 ERN 能够从整个训练集中学习。大量实验证实了我们的理论发现，并证明了所提出解决方案的有效性。

    Jan, 2024

  • 张量分解中的隐式正则化

    采用动力学系统视角和贪心低秩张量搜索方法，我们得出了张量秩作为衡量复杂度和深度神经网络隐式正则化的方法，进而解释了深度学习中的隐式正则化和现实世界数据的性质对泛化的影响。

    Feb, 2021

  • TorusE: 嵌入到李群上的知识图谱嵌入

    本文提出一种新的知识图谱嵌入模型 ToruE，解决了传统模型 TransE 中由于规范化导致的问题，并在链接预测任务上表现优异。

    Nov, 2017

  • ER-Test: 评估语言模型解释规范化方法

    该研究引入了 ER-Test 框架，该框架可衡量 ER 模型在未知数据集测试、对比集测试和功能测试下的泛化性能。通过该框架，研究者发现 ER 设计方案对同一任务的不同数据集具有不同的 OOD 泛化表现，ER 虽然对 ID 性能影响小，但可对 OOD 性能产生巨大的提升。研究者还发现，即使有限的理性监督也可以提高 ER 性能的 OOD 表现。

    May, 2022

  • 利用图信息的可证明张量补全

    通过构建动态图的数学模型，将新颖的图平滑正则化方法与张量分解模型相结合，解决了关于张量恢复的问题，从而获得了统计一致性的保证。

    Oct, 2023

  • 利用低秩和模型无关表示进行时间知识图谱推理

    介绍了一种基于张量分解的时间知识图谱补全方法 (Time-LowFER)，并提出了一种模型无关的、更广义的时间特征表示方法，实验表明该方法的表现与当前先进的语义匹配模型相当或更好。

    Apr, 2022