TT-TFHE: 一个支持环上完全同态加密的神经网络结构
使用全同态加密的方法实现神经网络的训练外包,以保护数据的机密性,可以在加密的数据上进行统一的训练,并学习量化的神经网络模型。数据可以在多个参与方之间进行水平或垂直分割,从而实现机密数据的合作。研究在多个数据集上训练逻辑回归和多层感知机。
Jan, 2024
本文介绍充分同态加密 (Fully Homomorphic Encryption, FHE) 在机器学习中的应用,针对现有文章只关注于数据安全而忽略模型参数的安全问题,以及高层级的实现不提供对深度卷积神经网络 (CNNs) 中的卷积、非线性激活和汇聚等常见操作的精确性、安全性和速度之间权衡问题,基于 CKKS 算法,提出了使用 FHE 保护输入数据和模型参数的 MLaaS 机制,并在经典的 MNIST 数据集上进行了实现和测试,结果表明设计参数选择会在正确性、安全和计算时间之间产生重要影响,同时还强调了其他设计选择如密文打包策略和多线程并行化也对推断过程的吞吐量和延迟产生了重要影响
Jan, 2021
本文使用了 RNS-CKKS FHE 技术及 bootstrapping 策略,并采用最新的近似方法来评估非算术函数,成功实现了对 CIFAR-10 数据集上的 ResNet-20 模型进行 FHE 加密计算,并经过数值验证,得出分类准确率达到了 90.67%。
Jun, 2021
本文介绍了使用 Fully Homomorphic Encryption 应用于基于树的数据模型,通过 Concrete-ML 库在加密选项卡 ular 数据上得到最先进的解决方案,此方法适用于决策树,随机森林和梯度提升树等广泛使用的基于树的模型,而且在准确性方面与未受保护版本非常接近。
Feb, 2023
本文提出了一种使用全同态加密技术 (Fully Homomorphic Encryption, FHE) 来实现隐私保护文本分类的高效方法,旨在在不泄漏数据隐私的前提下,保持预测准确性。
Aug, 2019
本文提出了一种基于 Shift-accumulation 的 Leveled-HECNNs 深度神经网络 (SHE),通过二进制友好的 LTFHE 加密方案实现了 ReLU 激活和最大汇聚,采用对数量化来加速推理,使用混合位宽累加器加速累加,并具有更小的乘法深度开销,实现了更深的网络结构。实验结果表明,SHE 在 MNIST 和 CIFAR-10 上实现了最先进的推理精度,并将推理延迟降低了 76.21% 至 94.23%。
Jun, 2019
该研究论文探讨了一种名为 Glyph 的先进技术,旨在加速和精确地使用全同态加密技术在加密数据上训练深度神经网络,并通过转移学习方法改进了测试精度和降低了计算复杂度。
Nov, 2019
本论文提出了一种名为 Truth-Table Net(TTNet)的卷积神经网络结构,该结构通过设计解决了可解释性、形式验证和逻辑门转换等难题,并在多个数据集上显示出与决策树可比的可解释性、快速完整合规验证和可扩展的逻辑门表示。
Aug, 2022
设计隐私保护深度学习模型是深度学习社区内的一个主要挑战。同态加密(HE)作为其中最有前景的方法之一,在实现模型所有者和数据所有者之间的解耦方面起到了重要作用。我们通过引入第一个多项式变换器并提供了第一个使用 HE 进行安全推断的示例,开创了新的领域。这包括特为 HE 量身定制的变换器架构,以及一种将运算符转换为多项式等效形式的新方法。这一创新使我们能够在 WikiText-103 上进行具有隐私保护的推断,并能够在 CIFAR-100 和 Tiny-ImageNet 上进行图像分类。我们的模型结果与传统方法相当,在性能上填补了与相似规模的变换器之间的差距,突出了 HE 在最先进应用中的可行性。最后,我们评估了模型的稳定性,并进行了一系列的消融实验来量化每个模型组件的贡献。
Nov, 2023