accuracy degradation | BriefGPT

关键词accuracy degradation

搜索结果 - 6

通过通道修剪实现皮肤病诊断公平性
提出了一种创新且可适应的基于软最近邻损失的通道修剪框架，通过通道修剪实现公平性，有效提高公平性而不明显损失准确性。
PDF2 months ago
以 ReLU 替代 Vision Transformers 中的 softmax
通过在视觉变换器上进行实验，我们发现当将注意力 softmax 替换为 ReLU 等点层激活时，通过将结果除以序列长度可以减轻准确性下降现象。我们在 ImageNet-21k 上对各种规模的视觉变换器进行训练的实验表明，对于计算扩展性而言，
PDF10 months ago
NeuralFuse: 在低电压环境下学习提高访问受限神经网络推理准确性
本文介绍了一种名为 NeuralFuse 的新模块，它通过学习输入变换以生成抗错误数据表示来解决廉价电压下 DNNs 性能 - 能耗平衡问题，无需重新训练模型即可在 2.7-5 倍降低内存访问能耗，同时提高 57％的准确性。
PDFa year ago
ICML量化感知训练中克服振荡问题
本文研究神经网络的量化问题，发现在低比特率下，深度可分离网络（如 MobileNets,EfficientNets）量化训练中，量化权重可能出现意外震荡，导致在推断过程中统计错误、在训练过程中增加噪声，进而显著降低准确性。作者提出了两种新的
PDF2 years ago
CVPR使用重用门函数学习半监督视频物体分割中的动态网络
本篇文章提出了一种基于动态神经网络的方法，利用时间信息快速识别变化最小帧并跳过繁重的掩码生成步骤，从而提高了半监督视频对象分割的推断速度，同时不会过多降低精度。
PDF4 years ago
二进制集成神经网络：每个网络的比特数更多还是每个比特的网络数更多？
对二元神经网络进行了广泛的实验以了解其表示能力、速度及偏差 / 方差。提出了一种二元集成神经网络，通过集成方法来提高二元神经网络的性能，从而更快、更鲁棒，甚至能够超越具有相同结构的完全精确的浮点数网络的准确性。
PDF6 years ago