基于互信息引导的事先训练编码器后门缓解

Jun, 2024

基于互信息引导的事先训练编码器后门缓解

Mutual Information Guided Backdoor Mitigation for Pre-trained Encoders

Tingxu Han, Weisong Sun, Ziqi Ding, Chunrong Fang, Hanwei Qian...

TL;DR本文提出了一种名为 MIMIC 的互信息引导的后门缓解技术，通过知识蒸馏从潜在后门编码器中提取干净的学生编码器，以减轻后门攻击并同时保持编码器性能。在自我监督学习中对两个后门攻击进行的评估表明，MIMIC 可以显著降低攻击成功率，仅利用不到 5% 的干净数据，超过七种最先进的后门缓解技术。

Abstract

self-supervised learning (SSL) is increasingly attractive for pre-training encoders without requiring labeled data. Downstream tasks built on top of those pre-trained encoders can achieve nearly state-of-the-art

self-supervised learning backdoor attacks pre-trained encoders knowledge distillation mimic

发现论文，激发创造

预训练编码器中蒸馏在缓解后门中的有效性

本研究探索了在 SSL 中针对恶意编码器的一种叫作蒸馏的防御方法，蒸馏最初用于监督学习，其目的是从给定模型（即教师网络）中提取知识并传递给另一个模型（即学生网络），现在我们使用它来从被恶意植入的预训练编码器中提取良性知识并传递给一个新的编码器，以获得一个干净的预训练编码器。通过对两种顶级的预训练图像编码器和四种常用的图像分类数据集进行实验研究，我们的实验结果表明，蒸馏可以将攻击成功率从 80.87% 降低至 27.51%，但精度损失为 6.35%。此外，我们研究了蒸馏的三个核心组成部分：教师网络、学生网络和蒸馏损失对性能的影响，通过比较 4 个不同的教师网络、3 个不同的学生网络和 6 种不同的蒸馏损失，我们发现，精调过的教师网络、基于预训练训练的学生网络和基于注意力的蒸馏损失效果最佳。

Mar, 2024

GhostEncoder: 自监督学习中动态触发器对预训练编码器的隐蔽后门攻击

该论文介绍了一种针对计算机视觉中的自监督学习的动态隐形后门攻击方法 GhostEncoder，通过图像隐写术将隐藏信息编码到良性图像中，生成后门样本，并在操纵数据集上微调预训练图像编码器以注入后门，使得建立在被植入后门编码器的下游分类器在目标任务中继承后门行为，实现对图像的高成功率欺骗。GhostEncoder 还能抵抗包括 STRIP、STRIP-Cl 和 SSL-Cleanse 在内的最先进的防御方法。

Oct, 2023

BadEncoder: 自监督学习中的预训练编码器后门攻击

本研究研究自监督学习中的后门攻击，提出了 BadEncoder，它将后门注入预训练的图像编码器中，同时保留了下游分类器的准确性。对不同数据集的实验结果表明，这种攻击方法具有高攻击成功率，而常规的防御方法并不能有效防御。

Aug, 2021

DailyMAE：朝着一天内预训练掩膜自编码器

本研究提出了有效的训练方案，以降低数据加载瓶颈和维持预训练性能，实现了高效的自监督学习训练，为更广泛的可访问性和推动自监督学习研究的进展铺平了道路。

Mar, 2024

对 SSL 后门攻击的一种极简防御方法

自我监督学习（SSL）已经成为应对无人监督数据环境的一种强大范例。然而，最近的研究表明 SSL 容易受到后门攻击的威胁，控制模型以适应攻击者目的。本文引入一种基于频率的新型后门攻击：CTRL，并提出了两种对抗 SSL 中基于频率攻击的防御策略：一种适用于模型训练前，另一种适用于模型推断期间。使用自监督学习的对象分类作为下游任务，我们展示了成功的防御策略，无需重新训练模型。

Mar, 2024

SSLGuard：自我监督学习预训练编码器的水印方案

本文提出了 SSLGuard—— 首个用于对预训练编码器进行水印的方案，并使用影子训练技术来保护水印免受模型盗窃等攻击。实验证明，SSLGuard 能有效地进行水印注入和验证，并对模型盗窃及其他攻击具有鲁棒性。

Jan, 2022

检测预训练编码器中的后门

本文提出了 DECREE，是第一个用于预训练编码器的后门检测方法，无需分类器头或输入标签，并通过对 400 多个遭受三种范式攻击的编码器的评估，在 ImageNet 和 CLIP 400 百万图像文本对上，我们的方法一致具有很高的检测准确性，即使我们只有有限或没有访问预训练数据集。

Mar, 2023

EmInspector：通过嵌入式检查应对联邦自监督学习中的后门攻击

通过检查本地模型的嵌入空间，本文提出了嵌入检查器（EmInspector），可有效地防范联邦自我监督学习（FSSL）中的后门攻击。

May, 2024

通过集群激活屏蔽消除自监督学习的后门

提出了一种通过集群激活屏蔽和新颖的 PoisonCAM 方法来消除自我监督学习背门攻击的痕迹，并在 ImageNet-100 数据集上达到 96% 的背门触发器检测准确率。

Dec, 2023

IMBERT: 使 BERT 免受插入式后门攻击

本文介绍了一种基于自我防御策略的解决方案 IMBERT，用于在推断时有效地识别和减少后门攻击的成功率，特别针对自然语言处理应用中的后门攻击漏洞问题，并在多个预先训练的变压器模型上验证，取得了竞争性的准确性。

May, 2023