量子机器学习服务中的安全问题
该研究提出了一种名为QuMoS的框架,该框架通过在多个云提供商之间分发QML模型而不是应用加密算法来保护模型安全,并且使用强化学习算法自动优化在分布式环境下的模型设计,从而在提供高安全性的同时实现高精度。
Apr, 2023
本文介绍了利用量子机器学习技术应对网络安全挑战的方法,特别是基于 QSVM 模型在恶意软件分类和保护方面的应用,为网络安全学习者设计并开发了十个基于量子机器学习的学习模块,以实现学生中心化、案例研究为基础的学习方法。其中一个子主题被应用于一个包含预实验、实验和后实验活动的网络安全主题,以提供应对实际安全问题的量子机器学习经验。QSVM 模型在 drebin215 数据集上实现了 95% 的恶意软件分类和保护精度。
Jun, 2023
本综述调查了在量子硬件上实现的监督学习和无监督学习应用,并探讨了其局限性及如何克服这些局限性。在此基础上,评估了这些 QML 实现与它们的经典对应物的性能表现,并讨论了应用 QML 在实际量子设备上存在的瓶颈和潜在解决方案。
Jul, 2023
该研究论文综述了量子计算在机器学习中的应用,包括量子机器学习算法、量子数据集、硬件技术、软件工具、模拟器和应用程序,为读者提供了跳跃到量子机器学习领域的最新技术的有价值的信息和资源。
Oct, 2023
云端托管的量子机器学习(QML)模型面临许多漏洞,其中最重要的是模型窃取攻击。本研究评估了这些攻击在量子计算领域的效果,利用多个QML模型体系结构在不同数据集上进行了全面的实验。实验结果显示,使用Top-1和Top-k(k: num_classes)标签进行训练的模型窃取攻击可以产生克隆模型,其克隆测试准确率分别达到原模型的0.9倍和0.99倍。为了防御这些攻击,我们利用当前嘈杂硬件的独特属性扰乱了受害模型的输出,阻碍了攻击者的训练过程。具体来说,我们提出了两种方法:1)硬件变化诱发的扰动(HVIP)和2)硬件和模型结构变化诱发的扰动(HAVIP)。虽然噪声和架构的可变性可以提供约16%的输出混淆,但我们的综合分析表明,在噪声条件下克隆的模型往往是弹性的,由于这种混淆几乎不会导致性能下降。尽管我们的防御技术取得了有限的成功,但这种结果导致了一项重要发现:在噪声硬件上训练的QML模型对扰动或混淆性的防御或攻击具有天然的抵抗力。
Feb, 2024
提出了一个用于保护量子机器学习数据安全的共同设计框架PrisitQ,通过引入一个带有用户定义安全密钥的附加安全量子位加密子电路,可以显著增强数据安全性,并提出了自动搜索算法来优化在加密量子数据上的模型以保持其性能。该框架在模拟和实际IBM量子计算机上的实验结果都证明了PristiQ提供高度安全性的能力,同时在量子机器学习中保持模型性能。
Apr, 2024
量子机器学习是量子计算的一个有潜力的早期使用案例,该文章旨在向那些已经具备量子计算基础知识并希望了解经典机器学习术语和应用的读者提供一个基本概览,其包括从理论研究到数值模拟再到概念验证等多个方面的进展。
Apr, 2024
量子机器学习(QML)将量子计算范式与机器学习模型相结合,为解决复杂问题提供了重要机遇。然而,在量子计算的噪声中间尺度(NISQ)时代中,随着众多第三方供应商的扩张,QML模型的安全性尤为重要,特别是抵御逆向工程攻击,该攻击可能会揭示模型的训练参数和算法。我们在推断过程中假设不可信任的量子云提供商是一种敌对方,对用户设计的训练过的QML模型进行白盒访问。我们第一次尝试研究QML电路的逆向工程,进行逆向工程并比较原始和逆向工程的量子神经网络(QNN)的训练准确率,发现在合理的时间内,在特定条件下可以逆向工程多比特分类器,平均误差约为1e-2的程度。我们还提出在QML模型中添加虚拟固定参数门以增加逆向工程的开销,以提高防御水平。逆向工程是一个非常强大的攻击模型,值得进一步进行防御研究。
Jul, 2024
本研究针对量子计算在现实应用中的性能与安全问题进行了探讨,填补了量子机器学习与经典机器学习比较的研究空白。通过对阿尔茨海默病数据集的案例分析,我们发现量子机器学习算法在性能上有潜力,但尚未超越经典算法,并且在运行模拟时对资源的需求较高。此外,量子机器学习也继承了经典算法的脆弱性,并引入了新的攻击路径。
Aug, 2024
本研究解决了量子机器学习模型在第三方云服务中知识产权保护的安全隐患,尤其是恶意反向工程的风险。我们采用基于自编码器的方法,从不信任的环境中提取量子模型参数,并且在多量子比特分类器的实验中显示了显著的反向工程精度和效率,反映出这一领域在安全性上的严峻挑战。
Aug, 2024