本文介绍充分同态加密 (Fully Homomorphic Encryption, FHE) 在机器学习中的应用,针对现有文章只关注于数据安全而忽略模型参数的安全问题,以及高层级的实现不提供对深度卷积神经网络 (CNNs) 中的卷积、非线性激活和汇聚等常见操作的精确性、安全性和速度之间权衡问题,基于 CKKS 算法,提出了使用 FHE 保护输入数据和模型参数的 MLaaS 机制,并在经典的 MNIST 数据集上进行了实现和测试,结果表明设计参数选择会在正确性、安全和计算时间之间产生重要影响,同时还强调了其他设计选择如密文打包策略和多线程并行化也对推断过程的吞吐量和延迟产生了重要影响
Jan, 2021
本文使用了 RNS-CKKS FHE 技术及 bootstrapping 策略,并采用最新的近似方法来评估非算术函数,成功实现了对 CIFAR-10 数据集上的 ResNet-20 模型进行 FHE 加密计算,并经过数值验证,得出分类准确率达到了 90.67%。
Jun, 2021
本文提出了一种使用全同态加密、卷积神经网络和图形处理器的高效隐私保护系统,用于在云端进行基于样本的模型推断,能够在保证数据安全的前提下实现高性能图像分类。
Nov, 2018
基于全同态加密的神经网络私有推理解决方案通过引入嵌套结构的编码方法以及融合卷积和引导操作优化算法,加速了卷积层的性能,实现了在几秒内进行 ImageNet(ResNet18)规模的神经网络推理。
Dec, 2023
本论文探讨了如何构建与 TFHE 约束兼容的深度神经网络,为计算机视觉任务提供了一种基于全同态加密的解决方案。
Feb, 2023
本文介绍了一种基于 RNS-CKKS 同态加密方案的深度卷积神经网络(DCNNs)的加密评估方法,通过对图像进行简化且高效的同态评估,获得了高精度对高分辨率 ImageNet 数据集的评估结果,同时在 CIFAR-10 数据集上获得了最高的同态评估的 CNN 准确性。
Jun, 2023
本文提出了一种新的 HE-friendly 模型的训练方法,展示了如何使用 HC Layers SDK 运行加密样本,并证明该模型可以在保持高准确度的同时,大大节省运行时间;研究人员还讨论了在 HE 条件下处理激活函数和跳过连接的不同策略,并且通过改编 CLIP 模型实现了安全的零 - shot 预测。
Apr, 2023
本文提出了一种基于 Shift-accumulation 的 Leveled-HECNNs 深度神经网络 (SHE),通过二进制友好的 LTFHE 加密方案实现了 ReLU 激活和最大汇聚,采用对数量化来加速推理,使用混合位宽累加器加速累加,并具有更小的乘法深度开销,实现了更深的网络结构。实验结果表明,SHE 在 MNIST 和 CIFAR-10 上实现了最先进的推理精度,并将推理延迟降低了 76.21% 至 94.23%。
Jun, 2019
利用全同态加密的卷积神经网络有潜力实现私有推理,但先前的方案存在运算与内存开销过高的问题,HyPHEN 是一种高效的方案,通过数据压缩和加密特定优化来降低计算和内存开销,在 CIFAR-10 推理中可将延迟降至 1.40s,ImageNet 推理则为 16.87s。
提出了一种结合强化学习和全同态加密的创新方法,用于实现安全的自主无人机导航,通过对实时视频进行全同态加密推理,保证了安全性和隐私性。
Apr, 2024