量子泄漏:从基于云的NISQ设备中窃取量子神经网络
该研究提出了一种名为QuMoS的框架,该框架通过在多个云提供商之间分发QML模型而不是应用加密算法来保护模型安全,并且使用强化学习算法自动优化在分布式环境下的模型设计,从而在提供高安全性的同时实现高精度。
Apr, 2023
本文介绍了首个大规模MNISQ数据集,用于量子和经典机器学习社区在嘈杂中间规模量子时代的研究。该数据集包括495万个数据点,由9个子数据集组成,并提供了量子表单和量子编程语言形式的数据。同时,在对量子回路数据分类方面,我们测试了包括量子核方法和经典模型在内的多重模型,结果表明量子电路具有量子优势,同时现有的机器学习方法也可以对其进行准确分类和识别。
Jun, 2023
云端托管的量子机器学习(QML)模型面临许多漏洞,其中最重要的是模型窃取攻击。本研究评估了这些攻击在量子计算领域的效果,利用多个QML模型体系结构在不同数据集上进行了全面的实验。实验结果显示,使用Top-1和Top-k(k: num_classes)标签进行训练的模型窃取攻击可以产生克隆模型,其克隆测试准确率分别达到原模型的0.9倍和0.99倍。为了防御这些攻击,我们利用当前嘈杂硬件的独特属性扰乱了受害模型的输出,阻碍了攻击者的训练过程。具体来说,我们提出了两种方法:1)硬件变化诱发的扰动(HVIP)和2)硬件和模型结构变化诱发的扰动(HAVIP)。虽然噪声和架构的可变性可以提供约16%的输出混淆,但我们的综合分析表明,在噪声条件下克隆的模型往往是弹性的,由于这种混淆几乎不会导致性能下降。尽管我们的防御技术取得了有限的成功,但这种结果导致了一项重要发现:在噪声硬件上训练的QML模型对扰动或混淆性的防御或攻击具有天然的抵抗力。
Feb, 2024
保证数据隐私在机器学习模型中至关重要,尤其是在分布式环境中,其中模型梯度通常在多个参与方之间共享,以实现协同学习。该研究揭示了基于量子机器学习模型的梯度中恢复输入数据的困难程度,并发现了动力学李代数在决定隐私漏洞方面的重要作用。研究结果显示,作为学习模型的变分量子电路的动力学李代数的某些特性可能导致隐私泄露,使得能够从输入数据的快照中训练用于不同学习任务的变分量子电路模型。此外,研究还探讨了从这些快照中恢复原始输入数据的条件,建立了与编码映射、动力学李代数基的重合度以及傅里叶频率特性等相关的条件,从而使得用于近似多项式时间恢复原始输入数据的经典或量子辅助方法成为可能。因此,该研究的发现对于指导设计平衡可训练性和强大隐私保护的量子机器学习模型的要求至关重要。
May, 2024
该研究论文介绍了一种新颖的基于集成的策略,名为STIQ,用于在云环境中保护Quantum Neural Networks(QNNs)的安全性,通过同时训练两个不同的QNNs,并对它们的输出进行混淆,从而有效地掩盖了单个模型的准确度和损失,以增强QNNs在云环境中的安全性和完整性。
May, 2024
综述型论文详细探讨了量子计算和机器学习在数据处理和分析方面的转变性影响,超越了传统计算方法的限制,重点研究了量子计算对高级数据处理和应用的意义,尤其强调了提升网络安全的潜力。
Jun, 2024
量子机器学习(QML)将量子计算范式与机器学习模型相结合,为解决复杂问题提供了重要机遇。然而,在量子计算的噪声中间尺度(NISQ)时代中,随着众多第三方供应商的扩张,QML模型的安全性尤为重要,特别是抵御逆向工程攻击,该攻击可能会揭示模型的训练参数和算法。我们在推断过程中假设不可信任的量子云提供商是一种敌对方,对用户设计的训练过的QML模型进行白盒访问。我们第一次尝试研究QML电路的逆向工程,进行逆向工程并比较原始和逆向工程的量子神经网络(QNN)的训练准确率,发现在合理的时间内,在特定条件下可以逆向工程多比特分类器,平均误差约为1e-2的程度。我们还提出在QML模型中添加虚拟固定参数门以增加逆向工程的开销,以提高防御水平。逆向工程是一个非常强大的攻击模型,值得进一步进行防御研究。
Jul, 2024
本研究解决了量子机器学习模型在第三方云服务中知识产权保护的安全隐患,尤其是恶意反向工程的风险。我们采用基于自编码器的方法,从不信任的环境中提取量子模型参数,并且在多量子比特分类器的实验中显示了显著的反向工程精度和效率,反映出这一领域在安全性上的严峻挑战。
Aug, 2024
本研究解决了数据所有者在使用量子云计算平台训练机器学习模型时,数据安全性的问题。提出了一种在编码输入数据之前运行参数化量子电路的方法,显著降低了所需电路深度,并允许训练后的模型在经典计算机上运行,从而拓展了数据安全的解决方案。此方法为量子与量子灵感的机器学习模型提供了另一个优势,并提高了数据保护的可行性。
Sep, 2024
本研究针对资源受限环境中量子计算能力缺乏的客户端及分割学习中的数据隐私泄露问题,提出了一种新的混合量子分割学习方法(HQSL)。该方法通过引入新的数据加载技术和噪声防御机制,实现了经典客户端与混合量子服务器的协同训练,同时提升了分类性能和安全性。实验结果表明,HQSL在多个数据集上都显著提高了模型的准确性和F1分数,并确认了其在客户端扩展中的可行性。
Sep, 2024