本文介绍了一种基于信息瓶颈原理的图形数据表示学习方法 —— 图信息瓶颈,该方法通过优化平衡了图形网络结构和节点特征的表达方式的表达性和鲁棒性,设计了两种采样算法进行结构方面的正则化,并使用两个新模型:GIB-Cat 和 GIB-Bern 来实现 GIB 原则,证明了其比最先进的图形防御模型更具有鲁棒性。
Oct, 2020
本文提出了图信息瓶颈(GIB)框架,解决了深度图学习中子图识别问题,并在三种应用场景下评估 IB 子图的性能。
本文提出一种新的图信息瓶颈框架,该框架可以通过邻域瓶颈减轻结构噪声,并在优化中加入伪标签以实现对成员隐私的保护,在真实世界数据集上进行了广泛的实验,证明了我们的方法可以提供强大的预测并同时保持成员隐私。
Jun, 2023
通过引入信息瓶颈理论的设计,结合相似桥接原理和互信息估计式的互动,提出了一种新型的子图信息瓶颈架构来识别预测压缩的子图,成功去除了图数据中的噪音和冗余,具有高效和稳定性,得到了较好的优化结果和理论边界。
Mar, 2021
本文提出一种基于信息论的新型可变信息瓶颈引导图结构学习框架,即 VIB-GSL,通过学习一个有信息量和压缩性的图结构来精简下游任务所需的可操作信息。该框架可以推断出不规则图数据的变分逼近,并形成一个便于训练稳定性的可操作目标函数,经过大量实验表明,VIB-GSL 具有优越的效果和鲁棒性。
Dec, 2021
通过拟合互信息的规范化核格拉姆矩阵,我们提出了一种新的可微信息瓶颈方法 (DIB),通过确定性和解析的方式有效地进行多视角聚类,实现了输入变量从不同视角的确定性压缩。
Mar, 2024
本研究提出一种名为 MVGIB 的多视角变分图信息瓶颈原则用于跨视角融合图信息,并使用相互信息约束公式化其共享信息和视角特定信息。经过广泛的图形基准数据集实验表明了所提出方法的卓越效果。
Oct, 2022
该研究提出了一种名为 Variational Graph Information Bottleneck (VGIB) 的框架,用于识别图形中最具信息量的压缩子结构,VGIB 通过对图形施加噪声注入的方式,再通过过滤噪声来获得所需的子图,并在图解释、图神经网络的可解释性和图分类等方面进行了广泛实验。
本文提出了一种名为 IS-GIB 的统一框架,旨在处理在图模型应用中常见的 OutOfDistribution 和类间关系问题。通过 Individual Graph Information Bottleneck(I-GIB)和 Structural Graph Information Bottleneck(S-GIB)来解决这些问题,并通过最小化互信息来消除不相关的特征和同时保持类之间的关系。在节点和图级任务上进行的广泛实验表明,IS-GIB 具有优越的泛化能力。
基于信息理论的鲁棒图信息瓶颈原则 (RGIB) 通过提取可靠的监督信号并避免表示崩溃,解决了边缘噪声对图中拓扑和目标标签的影响,实现了对鲁棒表示的学习目标。实验证实了我们的 RGIB 实例在多个嘈杂场景中的有效性。
Nov, 2023