Feb, 2024

基于 Transformer 的异常检测模型研究与应用：文献综述

PDF
TL;DR这篇论文是关于基于 Transformer 的异常检测的综述，探讨了当前的挑战、Transformer 及其变种在异常检测中的原理、应用场景、数据集和评估指标，并对未来的研究趋势进行了全面分析。这是首篇集中研究 Transformer 在异常检测领域的综述，为对此感兴趣的研究者提供了详细的技术信息。
transformeranomaly detectionnlpneural network modelsresearch trends
发现论文，激发创造
  • Transformer 深度学习任务的应用综述

    本文通过详细调查从 2017 至 2022 年间提出的 Transformer 模型，分析了其在自然语言处理、计算机视觉、多模态、音频和语音处理以及信号处理等领域中的应用及其对应的任务，并提供了一种分类法，以期为进一步研究及其未来的应用提供参考。

    Jun, 2023

  • 文本数据深度学习异常检测方法

    使用深度学习和变换器架构结合经典机器学习算法以检测和识别文本中的异常，将所有文本上下文转换为数字表示。

    Nov, 2022

  • Transformer 简介：自然语言处理视角

    介绍了 Transformer 基本概念，描述了标准 Transformer 架构，包括一系列模型细化和常见应用，主要关注有助于理解 Transformer 及其变体的概念和对该领域产生影响的关键思想，从而揭示了这些模型的优势和局限性。

    Nov, 2023

  • 利用网络变换器进行自监督和可解释的异常检测

    本文介绍了一种具有图形结构的 DNN 模型 - 网络转换器 (NeT)，用于检测工业控制系统中的异常，提供了分层次的功能，可以分析网络行为，提升了可解释性。

    Feb, 2022

  • 自然语言处理中 Transformer 的效率综述

    该论文通过对 NLP 的演变及其应用的准确性和效率的评论，以及提出和硬件考虑下对基于 transformer 模型的效率进行改进的研究贡献的调查，旨在确定当前 NLP 技术对可持续社会的贡献，并为未来研究奠定基础。

    May, 2024

  • 使用先进的 Transformer 模型进行信用卡欺诈检测

    通过使用最新的 Transformer 模型进行数据处理和高度相关向量选择，本研究致力于创新应用于更可靠和精确的欺诈检测，通过与多个广泛采用的模型进行性能比较，包括支持向量机（SVM），随机森林，神经网络和逻辑回归等，比较指标如 Precision，Recall 和 F1 Score，结果表明 Transformer 模型在传统应用中表现出色，并在欺诈检测等领域展示了巨大潜力，为该领域带来实质性进展。

    Jun, 2024

  • 电子病历中基于 Transformers 的方法应用：一项系统文献综述

    该文是关于基于 Transformer 的自然语言处理（NLP）应用到电子病历（EMR）领域的最新研究进展的系统文献综述，涵盖了业务问题、NLP 任务、模型和技术、数据集可用性、建模再现性、语言和交换格式等方面。通过分析当前研究的局限性和未来研究建议，该文提供了有关该领域 Transformer-based 方法的综合评估。

    Apr, 2023

  • 利用语言建模进行异常检测的框架及其在金融领域中的应用

    本文讨论了将异常和偏差检测方法应用于文本语料库，并针对相应挑战提出了采用分布语义的语言模型可在风险识别、预测建模和趋势分析等方面发挥重要作用。

    Aug, 2019

  • 基于 Transformer 的情感检测方法

    本研究探讨了采用不同类型的最先进的转换器模型对文本分类的性能，发现其中 RoBERTa 模型在测试数据集上表现最佳，可用于文本中灾难的检测。此外，我们发现预处理技术，词汇表中单词的性质，不平衡标签和模型参数对学习算法的性能产生影响。

    Mar, 2023

  • 文本中的深度异常检测

    利用自监督学习针对文本语料库制定预文本任务的方法，根据最新研究成果，大幅提高了半监督和无监督异常检测的效果，并证明了自监督异常检测在自然语言处理领域中的潜力。

    Dec, 2023