Nov, 2022

通过对抗知识蒸馏的闪电般快速视频异常检测

PDF
TL;DR提出了一种非常快的视频异常检测模型，通过从多个高精度的目标级教师模型中提取知识来学习检测异常。通过联合应用标准和对抗蒸馏，利用对每个教师的对抗鉴别器来区分目标和生成的异常图，从而提高了学生的保真度。对三个基准数据集（Avenue，ShanghaiTech，UCSD Ped2）进行实验，结果表明，该方法比最快的竞争方法快 7 倍以上，并且比以目标为中心的模型快 28 到 62 倍，同时获得了与最近方法相当的结果，且速度达到了 1480 FPS，是速度和精度之间的最佳权衡。此外，我们进行了全面的剖析研究，以证明我们的架构设计选择的合理性。
anomaly detectionvideoobject-level modelsdistillationspeed
发现论文，激发创造
  • 弱监督视频异常检测的聚合知识蒸馏

    通过将多个骨干模型的聚合表示进行知识蒸馏，我们提出了一种相对简单的模型，达到了最先进的性能。我们的方法在多个基准数据集上取得了显著提高，尤其是在 UCF-Crime、ShanghaiTech 和 XD-Violence 数据集上，分别实现了 1.36％、0.78％和 7.02％的显著改进。

    Jun, 2024

  • 自监督与多任务学习在视频异常检测中的应用

    本文提出了一种基于对象层面的自监督和多任务学习来检测视频中的异常事件的方法，结合多个代理任务进行学习，包括三个自监督任务和一个基于知识蒸馏的任务，并在三个基准测试中优于现有技术。

    Nov, 2020

  • 每秒 200 帧的物体检测

    本文提出了一种高效快速的物体检测器，通过调查网络架构、损失函数和训练数据等三个主要方面来实现这一目标，并引入各种改进方法，采用 Distillation Loss 函数将更加精确的教师网络的知识传递给所提出的轻量级学生网络，提高了检测精度，与 VGG 基础物体检测网络相比，参数数量减少了 10 倍以上，速度达到了 200 FPS 以上。

    May, 2018

  • 一种基于弱监督和自适应实例选择的轻量级视频异常检测模型

    该论文提出了一种轻量级视频异常检测模型，通过采用自适应实例选择策略和轻量级多级时间相关注意力模块，减少了模型参数，提高了模型性能，可在资源受限的情况下进行广泛部署。

    Oct, 2023

  • MixedTeacher：用于快速推理纹理异常检测的知识蒸馏

    本文提出了一种基于知识蒸馏的新方法，在正常样本上训练一个网络（学生），同时考虑预训练网络的输出（教师），并结合两位教师提出了新的学生 - 教师体系结构，用于联合增强异常检测和其定位精度。提出的纹理异常检测器能够检测任何纹理中的缺陷，并具有比 SOTA 方法更快的推理时间。

    Jun, 2023

  • 推进预训练教师：朝着异常检测的稳健特征差异

    本文提出了一个名为 AAND 的简单而有效的两阶段工业异常检测框架，通过连续进行异常放大和正常性蒸馏来获得强大的特征差异。通过引入合成异常和反向蒸馏范式，该方法在 MvTecAD、VisA 和 MvTec3D-RGB 数据集上取得了最先进的性能。

    May, 2024

  • 基于特征对抗蒸馏实现点云分类

    本文提出了 Feature Adversarial Distillation (FAD) 方法，在点云蒸馏中使用对抗性损失函数，通过攻击来自教师的反馈来获得学生的特征，从而在 40 倍模型压缩下，减少知识传递中的信息损失，同时保持了竞争性的性能。实验证明了该方法在 ModelNet40 和 ScanObjectNN 数据集上的有效性。

    Jun, 2023

  • 通过单类嵌入的反向蒸馏进行异常检测

    提出了一种基于知识蒸馏的教师 - 学生（T-S）模型，利用反向蒸馏范式和可训练的单类瓶颈嵌入（OCBE）模块，从高级别到低级别的特征逐渐地传递知识，在 AD 和单类新颖性检测基准测试中实现了卓越的性能，提高了对异常检测和单类分类的准确性。

    Jan, 2022

  • 在线模型蒸馏以提高视频推断的效率

    该文研究使用模型蒸馏技术将低成本的语义分割模型专门应用于目标视频流，使模型接近高成本模型的准确性，并在推断运行时具有更低的成本以及更好的稳定性。

    Dec, 2018

  • 多类异常检测与定位的结构化师生正态学习

    结构化师生正常性学习 (SNL) 是一种新的方法，用于解决之前教师 - 学生模型在多类异常检测中存在的重大性能下降问题，并在 MVTecAD 和 VisA 的多类异常检测和定位任务中显著优于现有的基于蒸馏的算法和统一模型。

    Feb, 2024