Maya: 动态控制伪造功率侧信道
通过引入隐私侧信道攻击,本研究揭示了当前保护机器学习隐私的方法假设模型存在于真空中,然而事实上,机器学习模型是包含用于训练数据过滤、输出监测等组件的更大系统的一部分。文中提出了四类隐私侧信道攻击,涵盖了整个机器学习生命周期,可以用于增强成员推断攻击或者进行提取用户测试查询等新颖威胁。通过实例展示,文中指出在应用差分隐私训练之前对训练数据进行去重造成了一种侧信道攻击,完全破坏了任何可证明的隐私保护保证。此外,研究还发现,阻止语言模型再生成训练数据的系统可以被利用来精确重构出包含在训练集中的私钥,即使模型本身并没有记忆这些私钥。总之,本研究的结果表明需要进行全面的端到端的机器学习隐私分析。
Sep, 2023
该研究利用非侵入式的侧信道信息,针对多层感知器神经网络,研究了如何逆向工程并获取该网络的构架及权重, 并展示了恢复输入所需的可行性和应对该攻击的几种缓解方法。
Oct, 2018
本论文提出了一种基于功率侧信道的攻击方法,在不了解神经网络的详细参数的情况下,能够从收集到的功率跟踪中恢复输入图像。在 MNIST 数据集上,我们的攻击能够实现最高 89% 的识别准确率。
Mar, 2018
本文研究硬件安全背景下的机器学习漏洞,主要聚焦在硬件木马、机器学习和侧信道分析,通过设计对抗噪声的方法来绕过机器学习侧信道分析,并提供开放的资源和设计。
Jan, 2024
本文研究了基于模拟电路的形式的计算方法 ——analog compute-in-memory (CIM),分析了针对 CIM 的深度神经网络 (DNN) 推断过程中,用户输入数据被攻击者利用功率侧信道攻击进行的隐私泄露风险及利用生成式对抗网络这一方法进行的攻击重构方法。本研究结果表明即使在被预处理和加噪声处理的情况下,攻击方法都可以有效地重建用户的输入数据,并通过大量实验进行了证明,在 MRI 医学图像的脑肿瘤检测中的应用有效。
Apr, 2023
运用形式化方法对 Cyber-Physical Systems 中受物理攻击的传感器和执行器进行完整性和拒绝服务攻击的形式化处理,提出了威胁模型,度量攻击成功率,使用 Uppaal SMC 作为静态安全性分析工具进行实例分析。
Feb, 2019
本文探讨了如何通过无需对目标设备进行修改的电磁侧信道分析技术,对物联网设备进行数字取证的研究,并总结了该技术在未来数字取证行业中的前景及其应用。
Mar, 2019
该论文研究使用 Adversarial Machine Learning 方法来防御利用机器学习进行信号分析的侧信道攻击,提出了一种名为 Defensive ML 的工作流程,其中包括设计、实现、训练和部署不同环境下的 Defender 来实现信号混淆。作者最终测试了两种基于内存竞争和应用功耗的侧信道攻击,结果显示该方法在保证高水平安全性的同时只有传统方案一半的性能开销(硬件实现)或只有 70%的功耗开销(软件实现)
Feb, 2023