我们是否需要从领域内数据中学习表示以进行异常检测？

May, 2021

我们是否需要从领域内数据中学习表示以进行异常检测？

Do We Really Need to Learn Representations from In-domain Data for Outlier Detection?

Zhisheng Xiao, Qing Yan, Yali Amit

TL;DR本文探讨了使用单个预训练网络作为通用特征提取器，在异常检测任务中取代训练不同表示器的可能性，并在实验中证明了使用领域内数据学习表示可能不是异常检测的必要步骤。

Abstract

unsupervised outlier detection, which predicts if a test sample is an outlier or not using only the information from unlabelled inlier data, is an important but challenging task. Recently, methods based on the two-stage framework achieve state-of-the-art performance on this task. The f

unsupervised outlier detection self-supervised representation learning feature extractor pre-trained network outlier detection benchmarks

发现论文，激发创造

异常检测需要更好的表示

本文介绍了无监督学习的自我监督表征学习技术可以用于实现常见异常检测任务的最先进性能，并且提出在表示学习方面实现下一代异常检测任务需要新的技术和概念改进。

Oct, 2022

基于预训练 Transformer 的无监督跨领域检测

本研究利用预训练的 transformers 的潜在特征表示来提出了一种简单而有效的方法，用于通过无监督的领域内数据检测领域外样本，并进一步提出了两种领域特定的微调方法来提高检测准确性。在两个数据集上的实验结果验证了该方法大大提高了更一般情景下的领域外检测能力。

Jun, 2021

学习不变表示以实现无监督图像恢复

该研究论文提出了一种无监督学习方法，它通过显式地从噪声数据中学习不变展示来重建清晰图像，并通过引入离散解缠表示和敌对域自适应等额外的自监督模块实现。实验表明该方法在合成和真实噪声去除任务方面表现与最先进的监督和无监督方法相当，同时比其他领域适应方法具有更快和更稳定的收敛性。

Mar, 2020

通过多任务自监督预训练提高对于样本外泛化能力

本研究表明，在计算机视觉中，使用自监督学习获得的特征，在域泛化方面与或优于使用监督学习获得的特征，并引入了一个新的自监督预文本任务来预测对 Gabor 滤波器组的响应，使用多任务学习提高了域泛化性能。

Mar, 2020

在潜在空间中通过领域不变表示学习改善入侵检测

通过多任务学习，我们引入了一种两阶段表示学习技术，旨在从跨越多个领域的特征中培养一个潜在空间，包括原始和跨领域的特征，以增强在未见过的内部分布和外部分布领域的推理能力。此外，我们试图通过最小化先验和潜在空间之间的互信息来解耦潜在空间，从而有效地消除虚假特征之间的关联性。总体而言，这种联合优化将促进领域无关的特征学习。我们使用标准分类指标在多个网络安全数据集上评估模型的有效性，并将结果与当代领域泛化方法进行对比。

Dec, 2023

多分辨率知识蒸馏用于异常检测

本研究旨在通过将专家网络的特征进行 “蒸馏” 以学习无监督表示，并使用这些特征检测和定位异常区域，证明了结合多个中间提示的蒸馏方法能够更好地利用专家网络的知识，并显著提高在多个数据集上进行异常检测和定位的性能。

Nov, 2020

深度表示学习的无监督图像分类

本研究提出了一种无监督图像分类框架，旨在通过不使用嵌入聚类来简化和优化深度聚类算法，并在 ImageNet 数据集上进行了实验。同时验证了其在多标签图像分类，目标检测，语义分割等任务的泛化性，以及其在迁移学习中的有效性。

Jun, 2020

无监督对抗不变性

该论文提出了一种新的无监督不变感知诱导框架，该框架通过竞争式训练和分解重构任务学习数据的分离表示，以抵抗干扰因素，并且无需任何标签的信息或领域知识。该无监督模型可以有效地使用合成数据增强来学习不变性和领域适应，并在诸如二元 / 多类别分类或回归等任何预测任务中应用。

Sep, 2018

无监督跨域图像检索的特征表示学习

本文探讨无监督的跨域图像检索任务，提出了基于类簇对比学习和距离 - 距离损失的方法，无需外部监督，在 Office-Home 和 DomainNet 数据集上实验结果表明，我们的方法优于现有最先进方法。

Jul, 2022

学习不变表示以进行领域自适应

本文针对无监督域适应学习中常见的假设提出了简单反例，证明了这些假设并不足以保证域适应的成功；提出了一种基于信息理论的弱化条件，并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡；最后，通过实验验证了理论结果。

Jan, 2019