Jun, 2023

基于分片的密文同态加密数据的高分辨率卷积神经网络

PDF
TL;DR本文介绍了一种基于 RNS-CKKS 同态加密方案的深度卷积神经网络（DCNNs）的加密评估方法，通过对图像进行简化且高效的同态评估，获得了高精度对高分辨率 ImageNet 数据集的评估结果，同时在 CIFAR-10 数据集上获得了最高的同态评估的 CNN 准确性。
deep convolutional neural networkshomomorphic encryptionresnet-20encrypted inference time speedupsimagenet
发现论文，激发创造
  • 针对同态加密的 AlexNet 时刻：使用 GPU 对加密数据进行的第一个同态 CNN，HCNN

    本文提出了一种使用全同态加密、卷积神经网络和图形处理器的高效隐私保护系统，用于在云端进行基于样本的模型推断，能够在保证数据安全的前提下实现高性能图像分类。

    Nov, 2018

  • 加密数据上的深度神经网络

    本文针对深度神经网络访问隐私敏感的原始数据的问题，提出了一种基于同态加密方案的新技术，并将其应用于卷积神经网络中，使用多项式替代常用激活函数，成功地实现了隐私保护的预测，同时取得了非常高的精度和有效性。

    Nov, 2017

  • 具有转移学习的隐私保护卷积神经网络训练

    这篇论文提出了一种基于同态加密技术的隐私保护卷积神经网络训练的实现解决方案，并应用转移学习简化了 CNN 的训练问题。

    Apr, 2023

  • 使用同态加密敏感调整大规模 CNN，实现端到端的安全预测

    本文提出了一种新的 HE-friendly 模型的训练方法，展示了如何使用 HC Layers SDK 运行加密样本，并证明该模型可以在保持高准确度的同时，大大节省运行时间；研究人员还讨论了在 HE 条件下处理激活函数和跳过连接的不同策略，并且通过改编 CLIP 模型实现了安全的零 - shot 预测。

    Apr, 2023

  • AutoFHE：用于 FHE 上高效评估的 CNN 自动适应

    AutoFHE 通过采用分层混合度多项式激活函数，与同态评估架构联合优化以在 RNS-CKKS 下适应标准 CNNs，从而提高安全推理的速度和准确性。

    Oct, 2023

  • CryptoGCN：快速且可扩展的同态加密图卷积网络推断

    该论文介绍了一种基于同态加密的 GCN（图卷积网络）推断框架 CryptoGCN，最大程度地保持了数据隐私，并有效利用矩阵操作的稀疏性，提高了同态加密的计算效率，最终实验证明其比目前最先进的解决方案更有效。

    Sep, 2022

  • 基于全同态加密的隐私保护深度神经网络机器学习

    本文使用了 RNS-CKKS FHE 技术及 bootstrapping 策略，并采用最新的近似方法来评估非算术函数，成功实现了对 CIFAR-10 数据集上的 ResNet-20 模型进行 FHE 加密计算，并经过数值验证，得出分类准确率达到了 90.67%。

    Jun, 2021

  • 同态 WiSARDs：加密数据上高效的无权重神经网络训练

    该论文介绍了在加密数据上对 Wilkie、Stonham 和 Aleksander 的 Recognition Device (WiSARD) 和 Weightless Neural Networks (WNNs) 进行训练和推理的同态评估方法，相比于卷积神经网络，WNN 在性能上表现更好，准确性下降相对较小。他们开发了一个完整的框架，包括一些具有独立兴趣的构建模块。该框架在经过加密训练后的 MNIST 数据集上获得 91.7% 的准确率，并在 3.5 小时内提升至 93.8%。对于 HAM10000 数据集，经过 1.5 分钟的加密训练，准确率为 67.9%，在 1 小时后提升至 69.9%。相比于现有的 HE 评估 CNN 训练的最新研究结果（Glyph），该框架的速度提升了最多 1200 倍，准确率下降最多为 5.4%。对于 HAM10000 数据集，我们甚至实现了准确率提升 0.65%，同时速度比 Glyph 快 60 倍。此外，他们还提供了小规模加密训练的解决方案，在桌面计算机上的单线程环境下，使用不到 200MB 的内存，可以在 12 分钟内训练 1000 多张 MNIST 图片，或者在 11 秒内训练整个 Wisconsin 乳腺癌数据集。

    Mar, 2024

  • 用于加密数据的高效 CNN 建模块

    本文介绍充分同态加密 (Fully Homomorphic Encryption, FHE) 在机器学习中的应用，针对现有文章只关注于数据安全而忽略模型参数的安全问题，以及高层级的实现不提供对深度卷积神经网络 (CNNs) 中的卷积、非线性激活和汇聚等常见操作的精确性、安全性和速度之间权衡问题，基于 CKKS 算法，提出了使用 FHE 保护输入数据和模型参数的 MLaaS 机制，并在经典的 MNIST 数据集上进行了实现和测试，结果表明设计参数选择会在正确性、安全和计算时间之间产生重要影响，同时还强调了其他设计选择如密文打包策略和多线程并行化也对推断过程的吞吐量和延迟产生了重要影响

    Jan, 2021

  • 利用稀疏性加速加密神经网络的真实世界推断

    本文介绍了 Faster CryptoNets，一种使用神经网络进行高效加密推理的方法。该方法使用了稀疏表示在底层密码系统中的剪枝和量化方法来加速推理，并展示了如何使用隐私安全的训练技术来减少加密推理的开销。本方法可以有效保护用户隐私并且在保持精度的同时实现了显著的加速。

    Nov, 2018