model inversion | BriefGPT - AI 论文速递

关键词model inversion

搜索结果 - 11

从 LoRA 权重中恢复数据集大小
我们引入了一个新的任务：数据集大小恢复，旨在直接从模型的权重中确定用于训练模型的样本数量。我们提出了 DSiRe 方法，用于恢复用于微调模型的图像数量，并发现 LoRA 矩阵的范数和频谱与微调数据集的大小密切相关，我们利用这一发现提出了一个
PDF7 days ago
基于多智能体强化学习的分布式黑盒模型逆推攻击
基于生成对抗网络的模型逆向攻击旨在通过在潜在空间中搜索代码来从复杂深度学习模型中恢复私有训练数据。本文提出了一种新颖的分布式黑盒模型逆向攻击方法，通过构建概率潜在空间来搜索目标隐私数据，相比现有方案具有更好的攻击准确性和性能。
PDF2 months ago
Patch-MI: 提升基于补丁重建的模型逆向攻击
通过基于 Jigsaw 拼图组装的新概率模型和基于 GAN 的分析，Patch-MI 攻击方法能够成功生成与目标数据库分布相似的图片，甚至在辅助数据库分布不相似的情况下，通过随机变换块的巧妙应用，进一步提升目标分类器的效果，从而在保持统计数
PDF7 months ago
逻辑回归与 Softmax 分类器的逆向分类：高效优化
通过闭合解法和快速迭代，本文对逻辑回归和 softmax 分类器两种常用分类器提出了高效的解决方案，以解决逆分类、反事实解释、对抗性示例和模型反演等最优化问题。
PDF10 months ago
MIRA：基于模型反演的去除攻击方法破解深度神经网络中的黑盒水印技术
我们提出了一种新的基于模型反演的移除攻击（Mira），该攻击不针对特定的水印，并且对大多数主流的黑盒深度神经网络水印方案都有效。我们的攻击方法利用受保护模型的内部信息来恢复并取消学习水印信息，并且还设计了目标类别检测和恢复样本分割算法来减小
PDF10 months ago
AAAI基于伪标签引导的条件生成对抗网络模型反演攻击
提出一种基于条件 GAN 的 PLG-MI 攻击策略，通过引入伪标签将搜索空间解耦，采用最大间隔损失改善目标分类的子空间搜索，实验表明本文方法攻击成功率和可视化质量效果明显优于当前先进攻击方法，特别是在大型分布转移下表现出 2~3 倍的优势
PDFa year ago
CVPRResSFL：面向拆分联邦学习中模型倒置攻击的抵抗传递框架
本文提出了 ResSFL，一个抵抗 Model Inversion 攻击的 Split Federated Learning 框架。使用攻击感知的训练方法推导出抵抗特征提取器，并在标准的 SFL 训练之前初始化客户端模型。实验表明，在 CI
PDF2 years ago
对比模型反演用于无数据知识蒸馏
本文提出对比模型反演（Contrastive Model Inversion）来对抗由现有反演方法所引起的数据多样性缺失问题，实现更高的数据多样性从而提高实例区分度及在知识蒸馏中的性能表现。
PDF3 years ago
ICML对抗机器学习研究的法律风险
本文旨在探讨 Adversarial Machine Learning 领域的研究者在攻击机器学习系统时可能存在的合法风险，特别是与计算机欺诈和滥用法案 CFAA 的适用性相关的问题。在分析研究过程中，从模型反转、成员推断、模型窃取、重新编
PDF4 years ago
通过预测纯化来防御模型反演和成员推断攻击
本文提出了一种称为净化框架的统一方法来防御神经网络所容易受到的数据推断攻击，并通过敌对学习来专门针对某一攻击方式进行保护。在基准数据集和分类器上进行了评估，结果表明该净化器可以有效防御数据推断攻击，减少成员推断准确性高达 15％，模型反演误
PDF4 years ago
记忆算法：模型反演攻击与数据保护法
该研究论文讨论了机器学习治理和预防算法危害的问题，以及如何应用 GDPR 监管。同时，介绍了信息安全领域中的模型逆推和成员推断攻击，并探讨了将某些模型合法归类为个人数据所涉及的不同权利和义务，以及这些措施的效用，并考虑了算法治理和监管的未来
PDF6 years ago