Dec, 2023

多类无监督异常检测中基于普通 ViT 重建的探索

PDF
TL;DR这篇论文研究了多类别无监督异常检测任务，采用了基于重构的方法与 Vision Transformer 相结合的简洁架构 ViTAD，提出了一种新颖的对称结构，并在多个指标上取得了最先进的结果。
multi-class unsupervised anomaly detectionreconstruction-based methodsvision transformermeta-adstate-of-the-art results
发现论文，激发创造
  • 多类别无监督异常检测的分层向量量化变压器

    在多类别图像异常检测中，该研究提出了一种基于向量量化和原型导向的 Transformer 层次化模型，通过离散的、具有代表性的原型来恢复正常图像，并采用原型导向的最优传输方法进行异常评估，实现了优于现有模型的性能。

    Oct, 2023

  • 探索纯视觉 Transformer 主干网络在目标检测中的应用

    本研究探讨使用层次结构大减的视觉变换器（ViT）作为物体检测的骨干网络，使用最小调整实现简单的特征金字塔和窗口注意力，预训练和微调使用 ViT 和掩码自编码器，提出的模型在 COCO 数据集上达到 61.3 AP_box，与使用层次骨干网络的现有领先方法相媲美。

    Mar, 2022

  • 基于视觉转换器的对抗领域自适应

    无监督领域自适应方法已取得了最新的优秀成果，并大多数使用了卷积神经网络作为特征提取器，然而视觉转换器虽已被广泛应用于计算机视觉任务，却未在对抗性领域自适应中研究过，本文填补了这一空白，并证明视觉转换器可直接应用于现有的对抗性领域自适应方法，以提升性能。

    Apr, 2024

  • TVT：基于视觉 Transformer 的无监督域自适应模型

    本研究提出了一种名为 “可传递视觉 Transformer” 的统一框架，其中融合了迁移学习、注意力机制和聚类方法，以实现基于标签源域的无标签目标域的知识迁移。 实验证明，本文所提出的 TVT 方法优于现有的微调和迁移学习方法，通过注入可学习的传递性适应模块来强制 ViT 集中注意力在可转移和辨别性特征上，并借助判别性聚类来增强特征多样性和分离度。

    Aug, 2021

  • VT-ADL: 用于图像异常检测和定位的视觉 Transformer 网络

    本研究提出一种基于 transformer 的图像异常检测和定位网络，利用重构方法和 patch 嵌入的结合，使用高斯混合密度网络定位异常区域，同时发布了一个名为 BTAD 的现实工业异常数据集。

    Apr, 2021

  • 基于扩散的多类异常检测框架 DiAD

    基于扩散模型的异常检测中，提出了一种适用于多类异常检测的扩散异常检测（DiAD）框架，包括像素空间自动编码器、与稳定扩散去噪网络相连的潜空间语义引导（SG）网络，以及特征空间预训练特征提取器。通过实验证明了该方法的有效性，并超过了多类 MVTec-AD 数据集上的最先进方法，即对于多类 MVTec-AD 数据集的本地化和检测，达到了 96.8/52.6 和 97.2/99.0（AUROC/AP）。

    Dec, 2023

  • Dinomaly: 多类别无监督异常检测中的简洁至上哲学

    我们引入了一种名为 Dinomaly 的极简重建异常检测框架，该框架利用纯 Transformer 体系结构而不依赖于复杂设计、附加模块或专门技巧，通过在多类异常检测中提取通用和区分特征的 Foundation Transformers、使用预存在的 Dropouts 进行噪声注入技巧的 Noisy Bottleneck、自然无法聚焦的 Linear Attention 以及不迫使逐层和逐点重建的 Loose Reconstruction 四个简单组件，在 MVTec-AD、VisA 和 Real-IAD 等三个流行的异常检测基准上进行了广泛实验，我们的 Dinomaly 在这三个数据集上分别取得了 99.6%、98.7% 和 89.3% 的令人印象深刻的图像 AUROC，不仅优于目前最先进的多类 UAD 方法，而且超过了最先进的类分离 UAD 记录。

    May, 2024

  • 用于密集预测的视觉 Transformer 适配器

    本文提出一种基于适配器的简单而强大的密集预测任务适配器，用于解决 Vision Transformer (ViT) 在密集预测中的性能较差问题，并成功应用于目标检测、实例分割和语义分割等多种密集预测任务中，其中 ViT-Adapter-L 模型在不使用额外数据的情况下，在 COCO test-dev 数据集上实现了 state-of-the-art 的性能。

    May, 2022

  • 基于模式生成对比网络的非监督工业异常检测

    本文提出一种基于 Vision Transformer 的无监督异常检测网络，利用分层任务学习和人类经验来增强其可解释性，可以有效解决高维空间中非线性模型拟合的问题和纹理变化对算法鲁棒性的挑战，并在公开数据集上取得了 99.8% AUC 的表现，优于现有最先进方法。

    Jul, 2022

  • 金字塔对抗训练提高 ViT 模型性能

    本研究旨在提高视觉转换器的总体性能，通过实现金字塔对抗训练（PyramidAT），同时采用适配的 Dropout 和随机深度正则化技术，使在分布和越界数据分类准确性之间的权衡断裂。实验结果显示，当只使用 ImageNet-1K 数据训练 ViT-B 模型时，ImageNet 图像的清晰度准确性绝对值提高了 1.82％，同时提高了 7 个 ImageNet 鲁棒性指标，其绝对值范围从 1.76％到 15.68％。

    Nov, 2021