该论文提出了一种新的 Teacher-Student 知识蒸馏方法，通过遮盖有关 Teacher 输出中的真实标签以过滤可能损坏的知识来学习具有噪声标签的神经网络。论文中的实验表明，这种方法可以有效地检测训练过程中的过拟合，并改善对 CIFAR-N 数据集中干净和噪声标签的检测。

Nov, 2022

本文提出了基于邻近差异率（NDR）的自适应差异保留（ADR）正则化器以加强知识的传递，进而提出了一种基于 GNN-SD 框架的通用图神经网络知识蒸馏方法，它在减少训练成本的同时实现了领先的蒸馏效果，并为多种流行的骨干网路提供了一致有效的性能增强。

Nov, 2020

本文提出一种基于知识蒸馏的框架，利用参数化标签传播和特征转换模块搭建简单的学生模型。实验结果表明，该模型在 5 个公共基准数据集上相对于 7 个图神经网络的教师模型平均能提高 1.4% - 4.7% 的准确度，并且具有更可解释性的预测过程。

Mar, 2021

通过使用一种特殊设计的学生模型（Routing-by-Memory）来解决节点分类任务中的性能问题，该模型是一种专家混合（Mixture-of-Experts），通过鼓励每个专家在隐藏表示空间的某个特定区域进行专门化，实验证明可以在多个数据集上实现更一致的性能。

Jun, 2024

本文提出了基于师生蒸馏的图神经网络框架 (T2-GNN)，旨在解决 GNN 在处理不完整图数据时性能下降的问题。该框架使用特定的特征级和结构级教师模型提供针对性的指导，并提出双重蒸馏模式以确保教师模型的知识被有效地灌输到学生模型中，从而消除特征和结构之间的干扰。

Dec, 2022

无需师生模型或图神经网络，纯基于多层感知器的图自蒸馏 (TGS) 框架在训练中利用结构信息进行自知识蒸馏，从而在推理中无数据依赖，显著提高了多层感知器的性能，并在六个真实数据集上超过最先进的图知识蒸馏算法。此外，TGS 的推理速度比现有 GNNs 快 75 倍至 89 倍，比传统推理加速方法快 16 倍至 25 倍。

Mar, 2024

本文概述了一系列现有的技巧，并提出了一些与标签使用、损失函数制定和模型设计相关的新技巧，以显著提高各种图神经网络 (GNN) 架构的性能。通过进行消融研究，我们经验性地评估了它们对最终节点分类精度的影响，并证明了它们的性能得到了不断改进，通常超过了底层 GNN 架构变化所带来的收益。值得注意的是，许多排名前列的模型从中受益，这是我们提出的一些技术。

Mar, 2021

本论文针对在文本图上学习有效节点表示的问题，提出了一种使用语言模型编码图文本信息的图神经网络和知识蒸馏机制，能够在无图情况下实现快速推理，实验结果表明，该方法在节点分类任务上具有显著优势。

Apr, 2023

本文提出了使用 GNN 的多源不确定性框架，反映了深度学习和信念 / 证据理论领域中各种类型的预测不确定性，以进行节点分类预测。该框架通过从训练节点给定标签收集证据，设计了基于图的核狄利克雷分布估计 (GKDE) 方法，准确预测节点级狄利克雷分布，并检测超出分布的节点，该模型在六个真实网络数据集上表现优于现有模型，并提供了理论证明解释此结果背后的原因。

Oct, 2020

本文提出一种在线知识蒸馏框架 ——Alignahead++，它通过一种交替的训练过程，将学生模型的结构和特征信息转移给另一个同时训练的学生模型的前一层，同时在每个中间层添加辅助分类器以避免过度平滑问题。实验结果表明，在不需要预训练模型的监督情况下，通过增加学生数量，我们的协作训练框架可以稳定提高学生模型的性能。

Oct, 2022