本文提出了一种基于知识蒸馏的新方法，在正常样本上训练一个网络（学生），同时考虑预训练网络的输出（教师），并结合两位教师提出了新的学生 - 教师体系结构，用于联合增强异常检测和其定位精度。提出的纹理异常检测器能够检测任何纹理中的缺陷，并具有比 SOTA 方法更快的推理时间。

Jun, 2023

本文提出了一种可以通过生成异常样本来解决少数异常样本数据不均衡的方法，利用自编码器和变分自编码器的双层分层潜空间表示来将合法数据的特征描述符深度提取为更强的表示，再利用这些生成器合成未见过的负样本，训练二元分类器以获得鲁棒的且无需实际异常样本训练的异常检测性能，该方法在多个异常检测基准测试中表现优异。

Oct, 2020

无监督深度学习技术广泛用于识别异常行为。该研究介绍了一种基于知识蒸馏的新型过程，用于将无监督异常检测模型压缩成监督可部署模型，并提出了一套提高检测敏感性的技术集合。压缩模型在显著减小大小和内存占用的同时，性能与较大模型相当。

Oct, 2023

由于数据不平衡和缺陷的多样性，学生 - 教师网络（S-T）在无监督异常检测中备受青睐，它通过知识蒸馏过程中从特征表示中探索差异来识别异常。文章通过构建新颖的双学生知识蒸馏（DSKD）架构来解决原生 S-T 网络不稳定的问题，该架构的关键在于使用两个具有相同尺度但结构相反的学生网络和一个单一预训练的教师网络。通过两种策略，即金字塔匹配模式和深度特征嵌入模块，以捕捉异常线索的高维语义信息，该架构可以增强蒸馏效果、改善正常数据的一致性识别，并同时引入多样性来表示异常，最终通过像素级异常分割图和样本判定的异常得分，实现了对三个基准数据集的评估和对内部模块的消融实验，结果显示 DSKD 在小型模型（如 ResNet18）上实现了卓越的性能，并有效改进了原生 S-T 网络。

Feb, 2024

本研究实现了一种多级知识蒸馏方法，将自监督学习与基于语言模型的强制学习相结合，以生成新颖的 OoD 检测方案，并在多个基准数据集上实现了最新的性能。

Nov, 2022

本文提出了一种基于教师 - 学生特征模仿网络的多尺度处理策略，采用了基于梯度下降优化的网络模块重要性搜索方法，可以有效地解决无监督异常定位任务的挑战，并在实际工业产品检测数据集上比同期的特征建模异常定位方法具有更好的性能。

Dec, 2022

提出了一种基于知识蒸馏的教师 - 学生（T-S）模型，利用反向蒸馏范式和可训练的单类瓶颈嵌入（OCBE）模块，从高级别到低级别的特征逐渐地传递知识，在 AD 和单类新颖性检测基准测试中实现了卓越的性能，提高了对异常检测和单类分类的准确性。

Jan, 2022

本文提出了一个名为 AAND 的简单而有效的两阶段工业异常检测框架，通过连续进行异常放大和正常性蒸馏来获得强大的特征差异。通过引入合成异常和反向蒸馏范式，该方法在 MvTecAD、VisA 和 MvTec3D-RGB 数据集上取得了最先进的性能。

May, 2024

该论文提出了一种基于知识蒸馏的对象检测模型微调方法，采用区域提议共享机制和自适应知识转移方法，根据模型的不同表现区分性能好坏，同时使用知识衰减策略帮助提高模型的泛化性能。实验结果表明，该方法在 COOC 数据集上取得了比基线模型更好的检测结果。

Jun, 2020

本文提出了一种在线知识蒸馏方法，在对抗训练框架下同时传输分类概率和特征图的知识，并使用判别器区分不同网络的特征图分布进行训练，比传统的直接对齐方法（如 L1）更适用于在线蒸馏，在多个网络之间引入循环学习方案，实验表明该方法的性能显著提高，特别是在训练一对小型和大型网络的情况下。

Feb, 2020