IJCAIJun, 2019

神经变分推理用于知识图嵌入的不确定性估计

PDF
TL;DR该论文介绍了一种高度可扩展的概率框架，利用神经变分推理构建条件推理网络，针对知识图谱中实体和关系类型的符号表示提供变分分布。通过该框架构建了两个模型，即 Latent Information 和 Latent Fact 模型，这些模型在特定条件下改进了基线性能。
neural variational inferencelatent variable modelsknowledge graphlatent information modellatent fact model
发现论文，激发创造
  • 文本处理的神经变分推断

    通过引入一个通用变分推断框架来构建生成式和条件文本模型的变分推断网络，我们验证了该框架在生成式文档建模和监督式问题回答两个不同的文本建模应用中的有效性。

    Nov, 2015

  • 变分知识图谱推理

    本研究提出了一种基于概率图模型和变分推断的方法，通过建立一个潜在变量表示创建实体之间关系，并且使用该方法成功得进行了缺失链路预测任务，实验结果表明该方法在多个数据集上都达到了最优表现。

    Mar, 2018

  • 自动编码变分贝叶斯

    本文介绍了一种基于随机变分推理 (Variational Inference) 的学习算法，可以为存在潜变量的、具有难以处理的后验分布的连续概率模型提供有效的推理和学习方法，特别是在大型数据集下具有较好的表现，且已经在实验上得到了验证。

    Dec, 2013

  • 信念网络中的神经变分推断和学习

    我们提出了一种快速的非迭代近似推理方法，通过前馈网络实现从变分后验进行有效精确抽样，该方法通过应用几种直观的模型独立方差减少技术，优于 MNIST 和 Reuters RCV1 文件数据集上的唤醒 - 睡眠算法，并取得了最新成果。

    Jan, 2014

  • 无向图模型中的神经变分推断和学习

    本文提出了针对无向模型的黑盒学习和推理算法，通过使用变分逼近模型 log-likelihood 的上界优化算法，其中重要的是由灵活神经网络表达的 log-partition 参数化函数上界。我们的算法可加速采样，训练广泛类别的混合有向 / 无向模型，并在多个流行生成建模数据集上验证了其有效性。

    Nov, 2017

  • 无监督信息论变分图自编码器的信念表示学习

    本论文提出了一个新颖的针对极化网络的无监督算法，能够识别潜在维度、将用户和内容项目结合到一个合适的解缠结的潜在空间中，并且能够定量权衡他们在意识形态上的倾向，探究他们在问题上的立场，是一个在用户聚类错误降低 10.5％，提高 12.1％的 F1 得分，同时与监督模型产生可比较的结果的模型。

    Oct, 2021

  • 无监督聚类的变分信息瓶颈：深度高斯混合嵌入

    本文提出了一种无监督的生成性聚类框架，将变分信息瓶颈和高斯混合模型相结合。使用变分信息瓶颈方法将潜空间建模为高斯混合物，并导出了一个代价函数的界限，并提供了一种可计算它的变分推断类型算法。通过神经网络参数化编码器映射，并通过蒙特卡罗采样逼近边界，并用随机梯度下降进行优化。提供了真实数据集的数值结果，证明了我们方法的有效性。

    May, 2019

  • 动态网络和时态知识图谱的神经潜空间模型

    本文提出了一种适用于动态网络的统计模型 Neural Latent Space Model with Variational Inference，该模型能够表示并预测网络结构的演化，并在同质、双部分和异质网络的真实数据集上表现出优异的性能。

    Nov, 2019

  • 从潜在到明晰：将知识图谱嵌入转化为可解释的结构

    本论文介绍了一种针对知识图嵌入模型的事后可解释人工智能方法，通过直接解码嵌入在知识图中的潜在表示，识别相似嵌入实体的子图邻域内的不同结构，并将这些见解转化为人类可理解的符号规则和事实，在知识图嵌入模型的抽象表示和预测输出之间构建了桥梁，提供清晰、可解释的见解。

    Jun, 2024

  • 不确定性知识图谱嵌入

    本文提出了一种新颖的不确定性知识图谱嵌入模型 UKGE，其目的是在嵌入空间中保留结构和不确定性信息，该模型通过学习不确定关系事实的置信度得出嵌入，并引入概率软逻辑来推断训练期间未见关系事实的置信度，实验表明 UKGE 在不确定知识的捕捉上非常有效，并在置信度预测，关系事实排名和关系事实分类等任务中表现出色。

    Nov, 2018