WWWFeb, 2021

HDMI：高阶深度多路混合信息最大化

PDF
TL;DR本研究提出了一种名为 High-order Deep Multiplex Infomax (HDMI) 的框架，用于在多重网络上进行自监督节点嵌入学习，通过利用高阶信息熵来获取外在与内在监督信号，结合注意力机制融合不同层的节点嵌入，取得了在无监督聚类和监督分类等领域的最新成果。
network representation learningdeep graph infomaxmultiplex networkself-supervised learningunsupervised clustering
发现论文，激发创造
  • 异质深度图卷积网络

    本文提出了一种基于信息理论的非监督图神经网络方法，即异构深度图 Infomax（HDGI），用于解决异构图的特征提取与表示问题，利用本地 - 全局互信息最大化捕获高级节点表示，并在分类和聚类任务上取得优秀的表现。

    Nov, 2019

  • 无监督带属性多重网络嵌入

    本文提出了一种面向具有属性的多重网络的简单而有效的无监督网络嵌入方法 DMGI，利用深度图最大化 (DGI) 的思想来最大化图的局部信息和全局表示，与关系类型的特定节点嵌入之间的差异，处理多种关系类型的节点之间的差异性，并使用注意机制来过滤不必要的关系类型，经实验证明 DMGI 的性能优于现有的最先进方法。

    Nov, 2019

  • 深图信息最大化

    Deep Graph Infomax 提出了用于无监督学习图结构数据中节点表示的一般方法，可用于节点分类任务，并且相比大多数先前的方法，不依赖于随机游走目标。

    Sep, 2018

  • 时空深度图最大化

    本研究介绍一种基于相互信息最大化的空间时间深度图形信息增强模型，致力于解决结构变化频繁的交通、基因等复杂地理信息系统的表征问题，并证明其可显著提高空间时间自回归预测模型的预测性能。

    Apr, 2019

  • 假设差异规范化的互信息最大化

    提出了一种假设差异规则化的互信息最大化方法，用于处理无监督假设转移，通过使用多个假设来传递源领域的知识，而不需要在适应过程中访问源数据，从而在假设转移学习的上下文中实现了最先进的 UDA 适应性能。

    Dec, 2020

  • 高维多重网络嵌入的层次聚合

    我们提出了 HMGE，一种基于分层聚合的高维多重图嵌入方法，通过学习图维度的分层组合和在每个层次进行嵌入的方式，揭示了多重图维度中隐藏的复杂信息和潜在结构，并通过局部补丁和全局摘要之间的互信息最大化来训练模型以捕捉图中处于不同位置但具有全局相关信息的能力。通过在合成和现实世界数据上进行的详细实验，我们证明了我们的方法在链接预测和节点分类等下游有监督任务中的适用性。

    Dec, 2023

  • 通过图形互信息最大化进行图形表示学习

    本文提出了一个新颖的概念，图互信息（Graphical Mutual Information，GMI），用于无监督地将图结构数据中的丰富信息提取到嵌入空间中进行表示学习，同时运用 GMI 开发了无监督学习模型并在节点分类和链接预测等任务上表现出明显的优越性。

    Feb, 2020

  • 通过互信息估计和最大化学习深层表示

    通过在深度神经网络编码器的输入和输出之间最大化互信息来进行无监督学习表示，该方法将表示的特征与先前分布进行敌对匹配，优于其他无监督学习方法并能够在多个分类任务中与全监督学习相竞争，深度信息最大化（DIM）为特定端点目标的无监督学习表示开启了新的途径。

    Aug, 2018

  • 视频深度信息最大化表示学习

    本文介绍一种名为 Video Deep InfoMax (VDIM) 的自监督学习方法，将原 DeepInfoMax 扩展至视频领域，其利用内部结构构建视图，并利用这些视图进行预测任务，从而实现对 UCF-101 数据集的行为识别任务的 SoTA 预测结果。

    Jul, 2020

  • 基于互信息和自监督双层聚合的节点嵌入

    本文通过使用互信息（mutual information）引入局部区域和全局区域的概念，并利用双层聚合对复杂的节点特征进行建模，实现了对于无序图中节点表示的高效学习和训练。同时，借助于自监督学习，将有限的标签数据结合互信息理论进行更加细致的标签预测，证明了本文提出的模型在各种图结构中都有着优越的表现。

    Apr, 2021