Aug, 2019

nGraph-HE2：用于加密数据上的神经网络推断的高吞吐量框架

PDF
TL;DRnGraph-HE2 是一种扩展 nGraph-HE 的框架，利用 CKKS 方案和双方计算方法，实现了隐私保护的图像识别，支持使用原生激活函数和实数，经过优化可以达到 state-of-the-art 的吞吐量，成功实现了对最大的预训练 MobileNetV2 模型在 ImageNet 数据集上的同态评估，准确率完全相当。
ngraph-he2privacy-preserving inferenceckks schemehomomorphic evaluationmobilenetv2 models
发现论文，激发创造
  • nGraph-HE: 一种基于同态加密数据的深度学习图编译器

    Intel's nGraph-HE, an extension of nGraph, enables the deployment of deep learning models on ciphertext using homomorphic encryption as a hardware target, allowing DL-aware optimizations and integration with popular frameworks such as TensorFlow to benchmark models with minimal overhead.

    Oct, 2018

  • CryptoGCN：快速且可扩展的同态加密图卷积网络推断

    该论文介绍了一种基于同态加密的 GCN（图卷积网络）推断框架 CryptoGCN，最大程度地保持了数据隐私，并有效利用矩阵操作的稀疏性，提高了同态加密的计算效率，最终实验证明其比目前最先进的解决方案更有效。

    Sep, 2022

  • 使用同态加密敏感调整大规模 CNN，实现端到端的安全预测

    本文提出了一种新的 HE-friendly 模型的训练方法，展示了如何使用 HC Layers SDK 运行加密样本，并证明该模型可以在保持高准确度的同时，大大节省运行时间；研究人员还讨论了在 HE 条件下处理激活函数和跳过连接的不同策略，并且通过改编 CLIP 模型实现了安全的零 - shot 预测。

    Apr, 2023

  • LinGCN：结构化线性化图卷积网络用于同构加密推理

    LinGCN 是一个旨在减少乘法深度和优化基于同态加密 (Graph Convolution Network) 推断性能的框架，通过 (1) 可微的结构线性化算法和参数化的离散指示函数，使模型具有最小化的乘法深度；(2) 紧凑的结点级多项式替代策略以及二阶可训练激活函数，通过从基于全 ReLU 的教师模型的两级蒸馏方法引导更优的收敛性；(3) 改进的同态加密方案，能够在结点级激活函数中实现更精细的运算融合，进一步降低乘法消耗；在 NTU-XVIEW 骨骼关节点数据集上的实验证明，LinGCN 在同态加密推断中具有出色的延迟、准确性和可扩展性，优于 CryptoGCN，并且相对于 CryptoGCN 实现了 14.2 倍的延迟加速，同时保持了 75% 的推断准确率并显著降低乘法深度。

    Sep, 2023

  • 利用 TFHE 进行加密推断的深度神经网络

    本论文探讨了如何构建与 TFHE 约束兼容的深度神经网络，为计算机视觉任务提供了一种基于全同态加密的解决方案。

    Feb, 2023

  • 用于加密数据的高效 CNN 建模块

    本文介绍充分同态加密 (Fully Homomorphic Encryption, FHE) 在机器学习中的应用，针对现有文章只关注于数据安全而忽略模型参数的安全问题，以及高层级的实现不提供对深度卷积神经网络 (CNNs) 中的卷积、非线性激活和汇聚等常见操作的精确性、安全性和速度之间权衡问题，基于 CKKS 算法，提出了使用 FHE 保护输入数据和模型参数的 MLaaS 机制，并在经典的 MNIST 数据集上进行了实现和测试，结果表明设计参数选择会在正确性、安全和计算时间之间产生重要影响，同时还强调了其他设计选择如密文打包策略和多线程并行化也对推断过程的吞吐量和延迟产生了重要影响

    Jan, 2021

  • Intel nGraph：深度学习的中间表示、编译器和执行器

    通过创建一个名为 Intel nGraph 的 C++ 库，支持各种深度学习框架和硬件平台，以实现深度学习性能的优化，包括 TensorFlow、MXNet 和 Intel neon 框架，以及多个硬件平台和编译器优化。

    Jan, 2018

  • HEQuant: 结合同态加密和量化的通信高效私有推断

    HEQuant 是基于低精度量化感知优化的 HE 协议，在保护数据隐私的同时能够显著降低通信开销和延迟，相较于其他先前的 HE 协议和网络优化框架，HEQuant 在通信和性能方面都能取得显著的提升。

    Jan, 2024

  • 利用稀疏性加速加密神经网络的真实世界推断

    本文介绍了 Faster CryptoNets，一种使用神经网络进行高效加密推理的方法。该方法使用了稀疏表示在底层密码系统中的剪枝和量化方法来加速推理，并展示了如何使用隐私安全的训练技术来减少加密推理的开销。本方法可以有效保护用户隐私并且在保持精度的同时实现了显著的加速。

    Nov, 2018

  • 针对同态加密的 AlexNet 时刻：使用 GPU 对加密数据进行的第一个同态 CNN，HCNN

    本文提出了一种使用全同态加密、卷积神经网络和图形处理器的高效隐私保护系统，用于在云端进行基于样本的模型推断，能够在保证数据安全的前提下实现高性能图像分类。

    Nov, 2018