memory saving | BriefGPT - AI 论文速递

关键词memory saving

搜索结果 - 4

更快的投影生成对抗网络：迈向更快的少样本图像生成
提出了一种名为 Faster Projected GAN 的改进 GAN 网络模型，主要集中在 Projected GAN 生成器的改善上。通过引入深度可分离卷积（DSC），减少了参数数量、加快了训练速度，并节省了内存。实验证明，在少样本图
PDF5 months ago
基于训练的细粒度嵌入维度优化的推荐系统
通过在训练期间动态调整嵌入向量的维度，使用虚拟散列的物理索引哈希表设计了一种新颖的嵌入存储系统，从而实现内存节省。实验结果表明，该方法在减少嵌入大小超过 65% 的同时，保持了训练模型的质量，并且相比最先进的嵌入剪枝方法，能够节省更多的内存
PDF6 months ago
使用 8 位整数训练高性能和大规模深度神经网络
本文提出了一种名为 WAGEUBN 的统一完整量化框架，可将神经网络的数据路径（包括所有数据类型 W，A，G，E，U 和 BN）中所有数据转换为低位整数以实现全面量化和在线训练，并在 ImageNet 数据集上获得了可比较的精度，展示了在大
PDF5 years ago
ICLR循环神经网络的交替多比特量化
本文通过量化神经网络的权重和激活值为多个 {-1，+1} 的二进制编码来解决在性能有限的移动设备和高并发服务器上部署神经网络时的问题，并在长短时记忆和门控循环单元等领域进行了测试，结果显示仅失去一定的准确性，我们可以通过两位量化实现约 16
PDF6 years ago