该论文提出 CirCNN，一种使用块循环矩阵表示权重和处理神经网络的基于 FFT 快速乘法的方法，能够从 O（n2）减少计算复杂度并降低存储复杂度，同时保持准确性，并在 FPGA、ASIC 和嵌入式处理器上实现出较高的能效和性能表现。

Aug, 2017

这篇论文提出了一种基于同态加密技术的隐私保护卷积神经网络训练的实现解决方案，并应用转移学习简化了 CNN 的训练问题。

Apr, 2023

本文提出了一种新的 HE-friendly 模型的训练方法，展示了如何使用 HC Layers SDK 运行加密样本，并证明该模型可以在保持高准确度的同时，大大节省运行时间；研究人员还讨论了在 HE 条件下处理激活函数和跳过连接的不同策略，并且通过改编 CLIP 模型实现了安全的零 - shot 预测。

Apr, 2023

本文提出了一个基于轻量级 ConvNet 模型的元模型模块，结合视觉转换器（Vision Transformers）的优点，使用位置感知循环卷积（ParC）和压缩激活操作（squeeze-exictation ops）来加强 ConvNet 的性能，实现了比流行的轻量级 ConvNet 和基于视觉变换器的模型在常见视觉任务和数据集上更好的性能，而且具有更少的参数和更快的推理速度。

Mar, 2022

设计隐私保护深度学习模型是深度学习社区内的一个主要挑战。同态加密（HE）作为其中最有前景的方法之一，在实现模型所有者和数据所有者之间的解耦方面起到了重要作用。我们通过引入第一个多项式变换器并提供了第一个使用 HE 进行安全推断的示例，开创了新的领域。这包括特为 HE 量身定制的变换器架构，以及一种将运算符转换为多项式等效形式的新方法。这一创新使我们能够在 WikiText-103 上进行具有隐私保护的推断，并能够在 CIFAR-100 和 Tiny-ImageNet 上进行图像分类。我们的模型结果与传统方法相当，在性能上填补了与相似规模的变换器之间的差距，突出了 HE 在最先进应用中的可行性。最后，我们评估了模型的稳定性，并进行了一系列的消融实验来量化每个模型组件的贡献。

Nov, 2023

本文提出了用循环矩阵代替全连接层中传统的线性投影来探索深度神经网络中参数冗余问题。该循环投影显著降低了存储占用并加速了计算速度，尤其对于现代深度卷积神经网络架构中包含 90% 以上参数的全连接层来说更为重要。作者还展示了该投影的梯度计算和优化可高效完成，并在三个标准数据集上进行了实验证明其存储空间和效率比传统神经网络结构有显著提升，同时误差率仅略微增加。

Feb, 2015

该论文介绍了一种基于同态加密的 GCN（图卷积网络）推断框架 CryptoGCN，最大程度地保持了数据隐私，并有效利用矩阵操作的稀疏性，提高了同态加密的计算效率，最终实验证明其比目前最先进的解决方案更有效。

Sep, 2022

nGraph-HE2 是一种扩展 nGraph-HE 的框架，利用 CKKS 方案和双方计算方法，实现了隐私保护的图像识别，支持使用原生激活函数和实数，经过优化可以达到 state-of-the-art 的吞吐量，成功实现了对最大的预训练 MobileNetV2 模型在 ImageNet 数据集上的同态评估，准确率完全相当。

Aug, 2019

本文提出了一种新的循环滤波器（CiFs）和循环二值卷积（CBConv）算法，以及通过循环反向传播（CBP）提高二值卷积特征容量的方法，并将其应用于现有的深层卷积神经网络（DCNNs）来构建新的循环二进制卷积网络（CBCNs）。在 ImageNet 数据集上的实验结果表明，提出的 CBCN 模型可以实现 61.4％的 top-1 准确率，比现有的 XNOR 方法的表现高出 10％。

Oct, 2019

本文提出了 Falcon，一种用于基于 HE 的二方计算框架的高效密实打包算法，它通过零感知贪心打包算法和通信感知操作器平铺策略，提高了深度卷积的打包密度，在操作器级别上相比于其他 HE-based 2PC 框架，实现了 15.6x、5.1x 和 1.8x 的延迟降低，并且在网络级别上，在 CIFAR-100 和 TinyImagenet 数据集上相较于 Cheetah 分别提高了 1.4% 和 4.2% 的准确率，并且具有等通信的特征。

Aug, 2023