ICLRMay, 2021

神经网络的高鲁棒性低可迁移指纹识别

PDF
TL;DR本文提出了特征样例，有效地给深度神经网络生成指纹。为了更好地平衡鲁棒性和可传递性，我们提出了三类特征样例：普通 C 样例，RC 样例和 LTRC 样例，并且提出了独特性评分，这是测量鲁棒性和可传递性之间差异的综合指标，也是假警报问题的一个指示器。
deep neural networksfingerprintingrobustnesstransferabilityuniqueness score
发现论文，激发创造
  • 通过可转移的对抗样本进行深度神经网络指纹识别

    我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。

    Dec, 2019

  • 通过神经指纹识别对抗性样本

    该论文提出了一种名为神经指纹的简单而有效的方法，通过验证模型行为是否与一组秘密指纹一致的方法检测对抗性例子，具有检测速度快、攻击者极难逆向工程以及不需要假定对手知识等优势。该方法在各种威胁模型下均表现优异，成功检测出了具有最强攻击性的对抗样本，同时还能很好地适应各种超参数和指纹选择。

    Mar, 2018

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022

  • 鲁棒性可转移特征提取器：学习防御白盒对抗下的预训练网络

    本研究提出了一种名为 Robust Transferable Feature Extractor（RTFE）的深度学习先处理机制，该机制可在多个独立训练的分类器中提供对抗鲁棒性，并且可以为不同数据集独立训练的模型提供一次性的对抗鲁棒性。

    Sep, 2022

  • 深度神经网络中的特征可转移性如何？

    本论文研究了深度神经网络中神经元的广泛性与特定性，发现转移特征会受到特化高层神经元和合作适应神经元之间优化困难性的限制，转移特征的适用性随着目标任务与基础任务的差距而降低，但即使从远任务中转移特征，也比使用随机特征好，从几乎任意数量的层中初始化网络都可以提高广义化的效果，即使经过微调后能够持续。

    Nov, 2014

  • 高效提升预训练模型的鲁棒性

    使用知识转移方法，将较小模型的鲁棒性迁移到大规模网络中，提高大规模模型的性能和鲁棒性。

    Sep, 2023

  • 探究深度表示的可迁移性

    该研究试图从泛化、优化和可转移性的角度理解神经网络的迁移能力，发现模型的可转移性与目标数据集的相似度、训练阶段以及转移参数的一些特性相关，包括使损失函数更加有利，加快和稳定训练过程。

    Sep, 2019

  • 深度神经网络的噪声响应分析评估其稳健性和结构恶意软件指纹

    本文提出了一种快速特征生成技术，可以对深度神经网络进行快速的安全检测，尤其是可以在几秒钟内检测出所谓的后门 (backdoors)，并且无需大量计算资源和训练数据。

    Jul, 2020

  • GanFinger: 基于 GAN 的指纹生成用于深度神经网络所有权验证

    我们提出了一种名为 GanFinger 的网络指纹方法，通过基于网络行为的网络输出对的原始示例和可转让的对抗示例来构建网络指纹，并利用生成对抗网络（GANs）有效生成具有察觉不到的扰动的可转让的对抗示例，从而在版权和盗版网络上产生相同的输出而在无关网络上产生不同的结果。对 GanFinger 的性能评估表明，在效率、隐蔽性和可辨识性方面都显著优于现有技术，其中指纹生成速度提高了 6.57 倍，ARUC 值提升了 0.175，相对改进约为 26%。

    Dec, 2023

  • 基于复数神经网络的鲁棒性无线指纹识别

    本文提出使用神经网络和复合值权重学习指纹技术，用于无线安全，结果表明使用加入白高斯噪声的计数器直接策略会有显著的性能提升，同时指纹识别是一个可行的方案。

    May, 2019