Oct, 2020

黑盒翻录器：使用生成式进化算法复制黑盒模型

PDF
TL;DR本文研究如何通过使用 teacher-student 的框架，以及应用进化策略来生成训练数据样本，以最小化准确率损失，从而复制黑盒神经模型的功能，并且在三个基准数据集上将我们的框架与几种基线和最先进方法进行了比较。
neural modelsteacher-student frameworkblack-box modelevolutionary strategyaccuracy loss
发现论文，激发创造
  • 基于主动自适应知识蒸馏和扩散式图像生成的少次调用模型窃取方法

    通过借助扩散模型生成逼真多样的图像，我们提出使用一个新的应用案例来复制黑盒分类模型，并在极少数量的调用中进行模型抽取任务，通过使用主动自适应学习框架来蒸馏被攻击模型的知识，我们的实证结果显示，该框架在少量调用模型抽取场景中优于两种现有方法。

    Sep, 2023

  • 基于群体进化算法的神经网络黑盒攻击

    该论文提出一种基于进化算法的黑盒攻击方法，可以成功生成针对神经网络模型的对抗样本，并且具有鲁棒性和随机性，实验结果表明该算法的复杂度受到模型和数据集的影响，同时对抗样本在某种程度上能够复制神经网络学习到的样本特征。

    Jan, 2019

  • Knockoff Nets: 模拟黑盒模型功能

    本文针对机器学习黑盒模型，提出了一种攻击方法，通过仅利用输入图像和输出的预测结果，而无需了解模型训练数据、结构或输出语义的情况下，来窃取其功能，并采用一种基于强化学习的方法，提高了查询样本的效率和性能。

    Dec, 2018

  • 逆向工程黑盒神经网络

    研究表明，通过一系列查询可以暴露神经网络的架构、优化程序或训练数据等属性，因此黑匣子神经网络更容易受到各种攻击，但该技术也可以用于更好地保护个人隐私。

    Nov, 2017

  • GenAttack：基于梯度自由优化的实用黑盒攻击

    这篇论文提出了 GenAttack—— 一种基于遗传算法的无梯度黑盒对抗攻击优化技术，在 MNIST、CIFAR-10 和 ImageNet 数据集上成功地生成了对抗性样本，攻击了最新的图像识别模型，且所需的查询量比之前的攻击方法少了几个数量级，且还能攻击一些针对对抗性训练的防御措施，通过实验证明了遗传算法在黑盒攻击研究中的可行性和前景。

    May, 2018

  • 复制机器学习分类器

    该研究旨在探讨无模型归属的机器学习分类器，通过提出一个框架来复制任何分类器的功能，同时引入一套度量标准来评估实践中生成的副本，以验证该框架的可用性。研究结果表明，副本可以用于增强现有解决方案并添加新功能和特性。

    Mar, 2019

  • 基于生成的替代模型的黑盒攻击方法

    基于代理的黑盒攻击暴露了深度神经网络的高易受攻击性。我们提出了一种生成代理方法，它学习了与目标决策边界相接近的样本的分布，并可以用于制造在其他类别中属于原始样本但几乎不可察觉的对抗性样本。在各种目标和数据集上，该生成方法导致攻击具有明显高的成功率。

    Feb, 2024

  • 黑盒优化的生成式预训练

    BONET 是一个使用离线数据集为基础，训练一个新的黑盒优化器的生成框架，采用单调转移启发式策略，实现从低保真度到高保真度的采样，在 Design-Bench 中的实验结果显示，BONET 使用一个因果掩码转换器的实例，在平均排名上表现最佳，优于现有技术基准。

    Jun, 2022

  • 神经网络梯度学习黑盒函数接口

    提出了一种基于端到端训练的神经网络的方法，该方法通过将黑盒函数的功能与可微分的神经网络进行逼近，以驱动神经网络遵守黑盒函数接口。在推理时，将不可微分的外部黑盒替换为其可微分的估计器，通过此方法，可以在无需中间标签的情况下，训练一个神经网络，从而计算黑盒功能的输入，并且这种综合模型比完全可微分的模型泛化效果更好，并且相对于基于强化学习的方法学习效率更高。

    Jan, 2019

  • 快乐的人 -- 在深度生成模型的离散潜在空间中将图像合成视作黑盒优化问题

    本文提出了一种基于树状集成模型和离散潜在向量自编码器的图像生成方法，能够优化生成样本的可量化特性，推动了数据分布的转移，可在训练数据分布边界得到更好的表现。

    Jun, 2023