使用同态加密进行加密张量运算的TenSEAL库
本文介绍充分同态加密(Fully Homomorphic Encryption, FHE)在机器学习中的应用,针对现有文章只关注于数据安全而忽略模型参数的安全问题,以及高层级的实现不提供对深度卷积神经网络(CNNs)中的卷积、非线性激活和汇聚等常见操作的精确性、安全性和速度之间权衡问题,基于 CKKS 算法,提出了使用 FHE 保护输入数据和模型参数的MLaaS机制,并在经典的MNIST数据集上进行了实现和测试,结果表明设计参数选择会在正确性、安全和计算时间之间产生重要影响,同时还强调了其他设计选择如密文打包策略和多线程并行化也对推断过程的吞吐量和延迟产生了重要影响
Jan, 2021
本论文提出了一种HEMET的HE友好型隐私保护移动神经网络架构,相较于之前的PPNNs,HEMET可以降低推理延迟59.3%~61.2%并提高0.4%~0.5%的推理精度。
May, 2021
以保护隐私和安全的机器学习模型为目标,我们提出了一种基于混合同态加密方案的隐私保护机器学习方法,通过使用混合同态加密构建安全的分类结果学习模型,同时保护输入数据和机器学习模型的隐私。我们通过开发和评估一个基于混合同态加密的隐私保护机器学习应用程序,用于基于敏感心电图数据的心脏疾病分类,证明了我们方法的实际可行性。这种混合同态加密方案的成功整合为相对受限的末端设备上的机器学习提供了一个更安全、更注重隐私的未来展望。
Jan, 2024
使用全同态加密的方法实现神经网络的训练外包,以保护数据的机密性,可以在加密的数据上进行统一的训练,并学习量化的神经网络模型。数据可以在多个参与方之间进行水平或垂直分割,从而实现机密数据的合作。研究在多个数据集上训练逻辑回归和多层感知机。
Jan, 2024
通过在完全同态加密数据上进行的训练,提出了BlindTuner这一隐私保护的Fine-Tuning系统,用于图像分类,并证实其在准确性上与非加密模型相当,并且相对于先前研究在速度上有1.5倍至600倍的显著提升。
Feb, 2024
HETAL是一种高效的基于同态加密的迁移学习算法,通过使用CKKS同态加密方案对客户数据进行加密,并采用基于验证的早停方法,实现了对客户隐私的保护,并达到了非加密训练的准确性。
Mar, 2024
该论文介绍了在加密数据上对Wilkie、Stonham和Aleksander的Recognition Device (WiSARD)和Weightless Neural Networks (WNNs)进行训练和推理的同态评估方法,相比于卷积神经网络,WNN在性能上表现更好,准确性下降相对较小。他们开发了一个完整的框架,包括一些具有独立兴趣的构建模块。该框架在经过加密训练后的MNIST数据集上获得91.7%的准确率,并在3.5小时内提升至93.8%。对于HAM10000数据集,经过1.5分钟的加密训练,准确率为67.9%,在1小时后提升至69.9%。相比于现有的HE评估CNN训练的最新研究结果(Glyph),该框架的速度提升了最多1200倍,准确率下降最多为5.4%。对于HAM10000数据集,我们甚至实现了准确率提升0.65%,同时速度比Glyph快60倍。此外,他们还提供了小规模加密训练的解决方案,在桌面计算机上的单线程环境下,使用不到200MB的内存,可以在12分钟内训练1000多张MNIST图片,或者在11秒内训练整个Wisconsin乳腺癌数据集。
Mar, 2024