WWWMar, 2023

BERT4ETH: 面向以太坊欺诈检测的预训练 Transformer

PDF
TL;DR提出了一个名为 BERT4ETH 的通用预训练 Transformer 编码器，可用于检测以太坊上的各种欺诈行为，该方法相较于当前研究使用的基于图形的欺诈检测方法，在处理高度重复，偏态分布和异构的以太坊交易方面具有更好的性能，并使用三种实用的有效策略来解决为以太坊预训练 BERT 模型所面临的挑战，BERT4ETH 在钓鱼账户检测和去匿名任务方面表现出显着的改善。
fraudethereumbert4ethtransformerpre-training
发现论文，激发创造
  • 规模化生成预训练：基于 Transformer 的交易行为编码用于欺诈检测

    介绍了一种创新的自回归模型，利用了 Generative Pretrained Transformer (GPT) 架构，专为支付系统中的欺诈检测而设计。我们的方法创新性地解决了令牌爆炸问题，并通过时间和上下文分析重构行为序列，提供了对交易行为的细致理解。利用无监督预训练，我们的模型在特征表示方面表现突出，无需有标签的数据。此外，我们整合了一种差分卷积方法来增强异常检测，提高了中国最大在线支付商的安全性和效果。我们模型的可扩展性和适应性在各种交易背景下有着广泛的适用性。

    Dec, 2023

  • 以网络嵌入技术检测以太坊网络中的网络钓鱼及骗局探测

    通过交易记录的信息提取和网络嵌入技术，本文针对以太坊网络上的网络钓鱼现象提出了一种检测方法，并证明其在以太坊上的有效性和交易网络特征提取算法的优越性。

    Nov, 2019

  • 使用先进的 Transformer 模型进行信用卡欺诈检测

    通过使用最新的 Transformer 模型进行数据处理和高度相关向量选择，本研究致力于创新应用于更可靠和精确的欺诈检测，通过与多个广泛采用的模型进行性能比较，包括支持向量机（SVM），随机森林，神经网络和逻辑回归等，比较指标如 Precision，Recall 和 F1 Score，结果表明 Transformer 模型在传统应用中表现出色，并在欺诈检测等领域展示了巨大潜力，为该领域带来实质性进展。

    Jun, 2024

  • 基于异构图神经网络的以太坊欺诈检测

    该研究比较了不同类型图神经网络模型在以太坊交易网络数据和钓鱼标签数据上的性能表现，结果表明异构模型的表现优于同构模型，尤其是 RGCN 模型在整体指标上表现最好。

    Mar, 2022

  • 基于 Transformer 模型（BERT，ALBERT 和 RoBERTa）在假新闻检测中的性能分析

    该研究探索了 transformer 模型，发现 ALBERT 在检测印尼语假新闻方面表现最佳

    Aug, 2023

  • 使用预训练的 Transformer 生成上下文感知的数据报文表示，用于加密流量分类：ET-BERT

    本文提出了一种新颖的流量表示模型称为 ET-BERT，该模型在大规模未标记的数据上对 Deep contextualized datagram-level 进行预训练，然后在少量特定任务的有标签数据上进行微调，取得了在五个加密流量分类任务上的最新成果，尤其是在 ISCX-Tor 任务上的 99.2％的 F1 分数所达到的显着的提高是本文的重点，作者解释了预训练模型的强力原因，并分析了加密流量之间边界的分类能力，为未来的研究和应用提供了新的思路。

    Feb, 2022

  • BERT: 深度双向变换器的预训练用于语言理解

    介绍了一种新的语言表示模型 BERT，可以通过预训练深度双向表示生成模型从未标记的文本中学习，通过微调可用于广泛的任务，包括自然语言处理。

    Oct, 2018

  • LogBERT: 基于 BERT 的日志异常检测

    本文提出基于 BERT 的自监督框架 LogBERT 用于日志异常检测，通过两个新颖的自监督训练任务学习正常日志序列的模式，并能够检测出潜在的从正常日志序列偏离的异常情况，实验结果表明 LogBERT 在三个日志数据集上表现优于现有的异常检测方法。

    Mar, 2021

  • 使用基于 Transformer 模型的不同比较方法进行 COVID-19 虚假新闻检测的研究

    该研究利用基于转换器的五种模型 (BERT、BERT without LSTM、ALBERT、RoBERTa 和 BERT & ALBERT 混合) 对 COVID 19 虚假新闻进行比较分析，其中 RoBERTa 模型在真假两类中均获得 0.98 的 F1 得分，相比其他模型表现更佳。

    Aug, 2022

  • 区块链大语言模型

    TXRANK 是一种动态、实时的检测异常区块链交易的工具，它不依赖于预定义规则或模式，并通过实时 Intrusion Detection System 识别以太坊中的异常交易，从而在区块链交易分析领域做出了贡献。

    Apr, 2023