AnomalyBERT：自监督变压器用于时序异常检测的数据降级方案

ICLRMay, 2023

AnomalyBERT：自监督变压器用于时序异常检测的数据降级方案

AnomalyBERT: Self-Supervised Transformer for Time Series Anomaly Detection using Data Degradation Scheme

Yungi Jeong, Eunseok Yang, Jung Hyun Ryu, Imseong Park, Myungjoo Kang

TL;DR本文提出一种基于自监督模型训练的异常检测方法，使用数据降级方案来处理未标记的多变量时间序列，并设计了一种基于 Transformer 的架构来检测异常序列。该方法在五个真实世界的基准测试中表现出较好的能力，超过了以前的最新方法。

Abstract

Mechanical defects in real situations affect observation values and cause abnormalities in multivariate time series, such as sensor values or network data. To perceive abnormalities in such data, it is crucial to understand the temporal context and interrelation between variables simul

anomaly detection time series self-supervised learning transformer-based architecture synthetic outliers

发现论文，激发创造

异常转换器：基于联合偏差的时间序列异常检测

本研究旨在通过使用 Transformer 模型中的 Self-Attention 机制来解决无监督时间序列数据中异常点检测问题，策略是基于异常点的相邻时间点建立关联，使其排除与整个时间序列的关系，通过计算不同点的关联度来判断是否为异常点，并在六个应用领域中取得了最佳表现。

Oct, 2021

半导体制造无监督故障检测的时间序列数据生成预训练

TRACE-GPT 通过卷积嵌入和生成式预训练转换器，用于预训练单变量时间序列传感器数据，并检测半导体制造中的未标记数据中的故障。

Sep, 2023

可学习数据增强的自监督时间序列异常检测

我们提出了一种利用可学习数据增强的时间序列异常检测（LATAD）技术，该技术通过对比学习从时间序列数据中提取判别特征。LATAD 在潜在特征相似性的基础上测量异常得分，并在多个基准数据集上表现出与最先进的异常检测评估相当或更好的性能，并提供了一种基于梯度的诊断技术来帮助确定根本原因。

Jun, 2024

通过 Transformer 自监督检测文本异常

本文提出了一种将深度学习模型应用于文本异常检测的方法，使用两个独立的自我监督信号，在文本序列上引入了一个新的先决条件任务，并在 20Newsgroups 和 AG News 数据集上均取得了强大的定量和定性结果。

Apr, 2021

自监督损失用于单类文本异常检测

通过自我监督学习 Fine-tune Transformers，利用丢失作为异常分数，成功提升语义异常的 AUROC 分数 11.6％和句法异常的 22.8％。此外，所得到的最佳目标和学习表示因下游异常类型不同而异，且表示的可分离性对于检测语义异常更有效。

Apr, 2022

工业传感器大型时间序列的多尺度异常检测

提出一种基于重构的异常检测方法 MissGAN，通过迭代学习将自然而平滑的时间序列重视切分为较粗的片段，并在低维度表示基础上发现更细的段落，从而学习多尺度段落，并通过对抗规则和额外条件状态重构一个有意义且稳健的时间序列，不需要标签或仅需要正常实例的标签，适用范围广泛。

Apr, 2022

面向鲁棒性无监督时间序列异常检测的有损压缩

本文提出了一种新的损失因果时间卷积神经网络自编码器来进行异常检测，其使用速率 - 失真损失和熵瓶颈来学习压缩编码的潜在表示，有助于实现更实际的无监督异常检测方案。

Dec, 2022

扭曲时间序列异常检测

该研究论文探讨了检测时间序列异常值的问题，重点关注具有重复行为的系统，例如在生产线上操作的工业机器人。通过使用特定于大型时间序列的基于 GPU 的质心算法，该论文提出了一种异常检测方法，该方法可以识别出重复周期并计算异常得分，以检测异常循环。实验证明，该方法能够处理大型信号，计算人类友好的原型，使用非常少的数据，并且优于一些通用的异常检测方法，如自编码器。

Apr, 2024

LogBERT: 基于 BERT 的日志异常检测

本文提出基于 BERT 的自监督框架 LogBERT 用于日志异常检测，通过两个新颖的自监督训练任务学习正常日志序列的模式，并能够检测出潜在的从正常日志序列偏离的异常情况，实验结果表明 LogBERT 在三个日志数据集上表现优于现有的异常检测方法。

Mar, 2021

基于序列重建的状态空间模型的时间序列异常检测

本文提出一种基于序列编码器和解码器的，利用前后向时间信息学习双向动态的无监督异常检测方法，通过对正常样本状态空间的正则化和使用马氏距离评估异常等级，实现对复杂多元时间序列数据中异常数据模式的识别和潜在故障的检测。

Mar, 2023