Jun, 2023

通过特征失真指数保护 DNN 模型免受模型提取攻击

PDF
TL;DR该论文提出了一种名为 FDINET 的新型防御机制，用于保护 MLaaS 的深度神经网络（DNN）免受模型提取攻击，并且具有高检测准确度、高效率和能够识别共谋对手的能力。
machine learningmlaasmodel extraction attacksfdinetdeep neural network
发现论文，激发创造
  • 基于联邦学习的智能电网虚假数据注入攻击分布式定位

    本文提出了一种联邦学习机制，结合混合卷积神经网络体系结构，并利用图形神经网络和 LSTM 层中的本地相关性和数据时间模式，以在分布式设置中灵活且高效地训练 FDIA 检测器，同时保护客户的隐私。

    Jun, 2023

  • 基于对比学习的深度神经网络故障注入攻击的检测与恢复

    本文介绍了一种基于对比学习的 FIA 检测和恢复框架，该框架将对比学习应用于深度学习训练和推断过程中，以实现在 FIAs 下具有自我恢复能力的 DNN 推断引擎。经过 CIFAR-10 数据集上多种类型 FIAs 的评估，我们的 CFDR 框架显示出有希望的检测和恢复效果。

    Jan, 2024

  • 基于深度置信网络的联邦入侵检测系统

    研究使用基于联邦学习的入侵检测系统解决物联网领域中的数据安全和隐私问题，并且实验结果表明，在使用预先训练的初始全局模型的情况下，相比随机初始化的全局模型，模型性能提高了 20% 以上（F1 得分）

    Jun, 2023

  • 物联网入侵检测的高效网络流量特征集

    评估了使用不同的特征选择方法（信息增益、卡方检验、递归特征消除、平均绝对偏差和离散比）提供的特征集在多个 IoT 网络数据集中的影响，以提高计算机效率。结果显示在保持良好泛化能力的同时，提高了机器学习模型的计算效率，对于每个数据集识别出了最具影响力的特征，并且特征集之间几乎没有差异。

    Jun, 2024

  • 特征蒸馏：面向 DNN 的 JPEG 压缩对抗示例的防御

    本文介绍一种通过 JPEG 压缩技术的特征蒸馏方法来防御深度神经网络的对抗攻击，能够有效修正对抗样本，同时不影响正常图像分类准确性。实验结果表明，此方法在准确性、可用性和处理速度方面均有所提升。

    Mar, 2018

  • 基于深度学习的智能电网虚假数据注入攻击动态检测

    研究使用深度学习技术检测注入数据度量值的方法，运用卷积神经网络与长短时记忆网络，观察数据测量和网络水平特征以共同学习系统状态，以此有效估算系统变量，实验结果表明，这种深度学习算法可以识别传统状态估计坏数据检测无法检测到的异常。

    Aug, 2018

  • PowerFDNet：基于深度学习的交流模型输电系统隐蔽虚假数据注入攻击检测

    本文提出了一种基于深度学习技术的时空深度网络 PowerFDNet，用于 AC 模型电网中 SFDIA 检测，PowerFDNet 可以有效地建模测量的时空结构，并在基准智能电网上的实验结果证明了其性能的显著改善，同时作者们还实现了一个 IoT 导向的轻型原型，证明了它在移动设备上的潜在应用。

    Jul, 2022

  • 基于局部直方图均衡化的增强图像差异特征对抗样本检测

    基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

    May, 2023

  • 医学影像中弗雷歇距离计算中特征提取的重要性

    比较了在医学图像中计算 Fréchet 距离（FD）的最先进特征提取器，并通过可视图灵测试将人类评估的生成质量与使用 ImageNet 训练的 InceptionV3、ResNet50、SwAV、DINO 和 Swin Transformer 架构以及大规模医学数据集 RadImageNet 训练的 InceptionV3 网络计算的 FD 进行比较。所有基于 ImageNet 的提取器之间保持一致，但只有 SwAV 与医学专家判断显著相关。RadImageNet-based FD 表现不稳定且缺乏与人类判断的相关性。建议在计算 FD 时谨慎使用经过医学图像训练的提取器，并对其在考虑的成像模式上进行严格评估并公开发布。基于 ImageNet 的提取器虽然不完美，但一致且广泛理解。使用 SwAV 训练提取器是评估合成医学图像的有希望的方法。

    Nov, 2023

  • FD-MIA: 公平增强模型的高效攻击

    以公平性方法、成员推断攻击、预测差距、公平性增强模型和隐私泄露为关键词，本文提出了一种基于公平性差异结果的高效成员推断攻击方法（FD-MIA），利用原始模型和公平性增强模型之间的预测差异和观察到的预测差距作为攻击线索，同时探索了减少隐私泄露的潜在策略。大量实验证实了我们的发现并证明了该方法的有效性。

    Nov, 2023