private inference | BriefGPT

关键词private inference

搜索结果 - 11

Comet：一种用于私有 Transformer 推断的通信高效和性能高的近似方法
本文介绍了一种名为 Comet 的新型插件方法，可有效降低通信成本并保持竞争性模型性能，通过 GLUE 基准数据集的 Bert 和 RoBERTa 模型评估表明，通信成本降低了最多 3.9 倍，速度提高了 3.5 倍。
PDFa month ago
xMLP：用专有方块激活革新私有推断
使用方形激活函数的新型深度神经网络架构 xMLP 在保持准确性和效率方面与使用 ReLU 的网络相当，在 CIFAR-100 和 ImageNet 上实验结果表明，xMLP 模型相比 ResNet 模型在激活层和参数数量较少的情况下始终表现
PDF4 months ago
高效却稳健的私有推理的线性化模型
RLNet 是一种鲁棒线性化网络，通过减少高延迟 ReLU 操作，在干净和受损图像上提高模型性能，从而在私有推理中提供改进的分类准确性，同时减少计算复杂度。
PDF5 months ago
ICCVAutoReP：快速私有网络推理的自动 ReLU 替换
使用梯度下降法的 AutoReP 方法在私有推理任务中减少非线性运算的数量，提高推理准确性，同时引入分布感知多项式逼近 DaPa 来保持模型的表达能力。实验结果表明 AutoReP 方法在各项指标上明显优于当前最先进的方法，同时在 Imag
PDFa year ago
快速和可扩展的隐私推断
隐私与安全、密码技术、隐私保护计算、私有推理和同态加密是本文主要关注的关键词，文章总结了最近关于使用神经网络中的私有推理作为动机应用来解决各种隐私保护计算中不同开销的努力，并介绍了其实现方法和加速技术。
PDFa year ago
LLMs 能理解加密提示：迈向隐私计算友好型变压器
本文展示了将 transformer 模型中的运算和通信重负荷的操作替换成隐私计算友好的近似可以大大降低私有推理成本，并比先前最先进的 Iron（NeurIPS 2022）获得了 5 倍计算加速和 80% 的通信负担减少，同时保持几乎相同的
PDFa year ago
ICLR学习线性化深度神经网络以实现安全高效的私有推理
该研究提出了一种敏捷的训练方法 SENet，可在保持模型分类精度的同时大幅度减少 ReLU 神经元来降低由 ReLU 操作引起的延迟，从而提高隐私推断（PI）的效率与准确性。
PDFa year ago
ICML选择性网络线性化用于高效私有推理
提出了一个基于梯度优化的算法，通过 ReLU 感知优化在保证预测准确性的前提下，针对私有推理的瓶颈问题实现了可选择性地进行线性化，实验结果表明，相比现有研究，该算法在提升预测准确率（50K iso-ReLU）上可达到 4.25％，或者在保证
PDF2 years ago
Circa: 随机 ReLUs 用于私人深度学习
本文提出了一种优化私有推断的方法，将 ReLU 算子重新表示为近似符号测试，并引入了一种新的截断方法，显著降低每个 ReLU 的成本，结果节省了存储和运行时间，同时不影响准确性。
PDF3 years ago
CryptoNAS：基于 ReLU 预算的私有推理
本文提出了一种名为 CryptoNAS 的 NAS 方法，该方法适用于 PI，可以在给定的预算内最大化准确性。CryptoNAS 通过优化运算时 ReLU 等非线性操作的代价，同时尽量避免线性层，比现有技术可以提高 3.4% 的准确度和 2
PDF4 years ago
NIPS指数族信息的差分隐私贝叶斯推断
该研究的主要内容是关于私人推断的方法，该方法为指数族的私人贝叶斯推断提供了第一个解决方案并且能够充分考虑隐私机制引入的噪声，从而提供正确校准的后验置信度。
PDF6 years ago