图神经网络的层间多样负采样
图神经网络(GNNs)用于链接预测,有两种广泛的分类。首先,以节点为基础的体系结构为每个节点预先计算个体嵌入,之后由简单的解码器组合以作出预测。与推理时的极高效性相比(因为节点嵌入只计算一次并重复使用),模型的表达能力有限,即对候选边贡献的同构节点可能无法区分,从而损害准确性。相反,基于边的方法依赖于形成特定于边的子图嵌入以丰富对配对关系的表示,以消除同构节点以提高准确性,但代价是增加模型复杂性。为了更好地权衡这种权衡,我们提出了一种新颖的 GNN 体系结构,其中 “前向传递” 显式依赖于正向(一般情况下)和负向(我们方法独有)边,以摄入更灵活但仍然廉价的以节点为基础的嵌入。通过将嵌入自身重新定义为正负样本分离的正向传递特定能量函数(与实际训练损失不同),所提出的体系结构在广泛的经验评估中得到了验证,既保持了以节点为基础的模型的推理速度,又产生了与基于边的替代方法竞争性的准确性。
Oct, 2023
本篇论文提出通过增加双通道筛选器以替换传统图神经网络中的聚合操作,从而避免节点表示逐渐失去其标识并变得不可区分,最终在 9 个节点分类任务上获得了显著的表现提升。
Dec, 2022
本研究提出了一种 “深 GNN,浅采样器” 设计规则,通过利用深层次的 GNN 在一个浅层、局部的子图内传递信息,避免了在全局范围内过度平滑和邻域爆炸的问题,从而提高了 GNN 的准确性和效率。通过采用各种子图采样算法和神经架构扩展,研究人员在最大的公共图形数据集上取得了最先进的准确性,同时大幅减少了硬件成本。
Dec, 2020
该研究探索了多层次负采样的新策略,通过潜空间产生具有灵活和可控的 “难度” 级别的负节点,从而实现了有效的图链接预测。实验证明了该方法的有效性。
Mar, 2024
本文研究图表示学习中的负采样对于优化目标和结果方差的重要性,并提出了一种基于自对比近似和 Metropolis-Hastings 加速的负采样方法,MCNS,应用于链接预测、节点分类等任务,并在 19 个实验设置中证明了其优越性。
May, 2020
本文提出了一种基于图神经网络的社交推荐模型 NeMo,使用生成式负采样策略并利用正负用户 - 物品交互推广用户兴趣,提高了推荐泛化能力和准确度。实验证明,在各种真实世界的基准数据集上(例如在 NDCG@15 方面高达 38.8%)NeMo 的性能优于现有方法。
Apr, 2023
本文利用图卷积网络优化了推荐系统,将推荐候选项的多样性缩放到候选项生成阶段,并提出了重新平衡邻居发现、类别提升负采样和对抗学习等技术以改善多样性问题。对实际数据进行的广泛实验表明该方法的有效性,并证实该方法显著缓解了准确性和多样性之间的困境。
Aug, 2021
本文提出了一种名为 GraphDIVE 的基于节点嵌入的图分类不均衡问题的解决方案,使用多样的专家(即图分类器)进行图分类,通过分阶段训练实现对不均衡样本的有效分类。
Mar, 2021