Nov, 2018

利用人工智能破坏移动设备用户隐私

PDF
TL;DR本文借助于人工智能技术，探讨了利用现代处理器的微体系结构存在漏洞对移动电话用户个人隐私数据的侵害问题，并展示了将先进 AI 技术与最终级缓存 (LLC) 的活动剖析相结合的效果。实验结果表明，在短短的时间内，通过建立的模型精度达到 98% 以上，证明利用 AI 技术实现微体系结构攻击的风险越来越大。
microarchitecture attacksai techniquescache tracesdeep learningmobile phone privacy
发现论文，激发创造
  • 模型之外：Android 应用中的深度学习模型数据预处理攻击

    本文介绍对真实世界的基于数据处理的深度学习应用攻击。结果表明，81.56％的应用程序可以成功攻击，这凸显了了解并采取保护数据处理方面的安全措施在设备上的深度学习模型的重要性。

    May, 2023

  • 使用移动 GPU 进行设备端神经网络推断

    本文介绍了如何利用手机上普遍存在的 GPU 加速器，在 Android 和 iOS 设备上实现深度神经网络的实时推断，并将其集成到开源项目 TensorFlow Lite 中。

    Jul, 2019

  • 一个混合深度学习架构用于隐私保护移动分析

    本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

    Mar, 2017

  • 存在缓存侧信道攻击时，深度神经网络的安全分析

    本文首次深入探讨利用缓存侧信道攻击的 DNN 指纹攻击的安全性分析，介绍了攻击工具 DeepRecon 以及元模型的构建，同时提出框架级别的防御技术来混淆攻击者的观察。

    Oct, 2018

  • 卷积神经网络加速器能量侧信道攻击

    本论文提出了一种基于功率侧信道的攻击方法，在不了解神经网络的详细参数的情况下，能够从收集到的功率跟踪中恢复输入图像。在 MNIST 数据集上，我们的攻击能够实现最高 89% 的识别准确率。

    Mar, 2018

  • 一种在移动设备上使用深度学习的性能敏感型恶意软件检测系统

    本论文提出了一种基于深度神经网络的定制化的移动端实时 Android 恶意软件检测系统，MobiTive, 包括不同特征提取方法和不同特征类型选择、不同深度神经网络的检测精度、不同移动设备上的实时检测性能和精度以及基于移动设备规格的演化趋势的检测潜力分析

    May, 2020

  • 深度学习模型中实施成员推断攻击的方法

    现代机器学习（ML）生态系统提供了大量的 ML 框架和代码库，可以极大地促进 ML 模型的开发。本研究考虑了恶意 ML 提供者供应模型训练代码给数据持有者的情况，该提供者无法访问训练过程，只能以黑盒查询方式访问结果模型。我们展示了一种新形式的成员推断攻击，比以往的攻击更强大，使对手能够可靠地取消识别所有训练样本，并且被攻击的模型仍然保持与未受损对照模型相当的性能。此外，我们还展示了被污染的模型可以在常见的成员隐私审核下有效伪装被放大的成员泄漏，只有对手知道的一组秘密样本才能揭示。总体而言，我们的研究不仅指出了最坏情况下的成员隐私泄漏，还揭示了现有隐私审核方法的一个常见问题，需要未来努力重新思考机器学习模型中的隐私审核实践。

    Jul, 2024

  • 构建 Android 恶意软件检测的机器学习流水线：实践、挑战和机会的程序化调查

    本文通过 42 篇高引用的文献回顾了过去十年间对针对安卓设备恶意应用检测的机器学习方法的研究，介绍了一个新的程序分类法以及对其评估和解释策略所做的工作，并指出现有知识中的缺陷和未来的研究方向。

    Jun, 2023

  • 基于人工智能的移动应用程序：一项探索性研究

    本文通过数据集分析、关键问题定位和用户反馈与隐私保护等多方面对 56682 款 AI 应用进行了研究，揭示了其中的不足之处，如模型保护不足，用户隐私数据泄露等，还提供了数据集以供未来研究引用。

    Dec, 2022

  • 在侧信道跟踪中定位加密操作的深度学习技术

    通过深度学习技术，本文提出了一种新颖的方法来定位侧信道迹线中执行目标计算密集型密码操作的时间点。与现有解决方案的区别在于，该方法能够在通过随机延迟插入技术获得的迹线变形的情况下正常工作。在实现了 RISC-V CPU 的 FPGA 系统上，通过成功攻击各种未受保护和受保护的密码原语进行了验证。

    Feb, 2024