稀疏 Imagenet 模型的迁移效果如何？

CVPRNov, 2021

稀疏 Imagenet 模型的迁移效果如何？

How Well Do Sparse Imagenet Models Transfer?

Eugenia Iofinova, Alexandra Peste, Mark Kurtz, Dan Alistarh

TL;DR本文深入研究了在 ImageNet 数据集上，基于无结构剪枝的卷积神经网络模型的迁移学习，表明稀疏模型在高度稀疏的情况下可以匹敌甚至超越密集模型的迁移性能，并且可以带来显著的推理甚至训练加速。同时观察并分析了不同剪枝方法之间的行为差异。

Abstract

transfer learning is a classic paradigm by which models pretrained on large "upstream" datasets are adapted to yield good results on "downstream" specialized datasets. Generally, more accurate models on the "upstream" dataset tend to provide better transfer accuracy "downstream". In th

transfer learning convolutional neural networks pruning sparsity model adaptation

发现论文，激发创造

走向计算优化的迁移学习

本研究提出了一种简单而有效的方法，即使用预训练模型进行零 - shot 结构化剪枝，从而在尽量减少计算量的情况下实现性能的提升，实验证明，在低计算量条件下对预训练模型进行卷积过滤的剪枝可以带来超过 20% 的性能提升。

Apr, 2023

有限任务数据下的结构化剪枝迁移学习

结合结构化修剪和迁移学习的框架可减小大型预训练模型，并改善修剪模型在基线上的泛化性能。

Nov, 2023

从稀疏标注的 3D 医学图像数据集进行迁移学习

本研究探索了使用迁移学习来提高医学影像中深度卷积神经网络对器官分割的性能，研究结果表明迁移学习可改善标注的效率和提高准确的器官分割，在医学影像领域具有潜在应用价值。

Nov, 2023

ImageNet 模型的表现是否与迁移学习相关？

比较了 16 种分类网络在 12 个图像分类数据集上的性能表现，发现在使用网络作为固定特征提取器或微调时，ImageNet 准确度与转移学习准确度之间存在强烈的相关性，但是在微调时，ImageNet 的泛化能力较弱，获得了更差的特征。

May, 2018

深度神经网络中稀疏性的状态

本文评估了三种在深度神经网络中引入稀疏性的技术，并对两个大规模的学习任务进行了严格评估，结果表明，简单的幅度剪枝方法可以获得相当或更好的性能，而不能从头开始训练稀疏结构，并强调了建立大规模基准测试的必要性。

Feb, 2019

重构网络剪枝 -- 在预训练和微调范式下

本论文研究在 NLP 领域中，对预训练的 Transformers 模型采取稀疏剪枝 (sparse pruning) 技术，相较于对其通道与层数的压缩，稀疏剪枝的效果更为显著。通过基于 GLUE 数据集的实验比较，证明本论文所采用的知识感知的稀疏剪枝方法可以实现 20 倍的参数 / FLOPs 压缩并且不会明显损失模型的性能。

Apr, 2021

对抗鲁棒性 ImageNet 模型是否具有更好的迁移能力？

本研究证明，相较于标准预训练模型，鲁棒性较强的预训练模型在转移学习中表现更佳。通过研究图像分类任务，发现鲁棒性较强的 ImageNet 分类器在一系列标准下游任务中得到了更高的准确性。

Jul, 2020

优化密集前馈神经网络

通过剪枝和迁移学习，我们提出了一种新颖的前馈神经网络构建方法，能在不损失准确率的情况下压缩参数数量超过 70%，并且通过精心选择剪枝参数，大多数精炼模型的性能优于原始模型，从而不仅有助于更高效的模型设计，而且更有效的使用。

Dec, 2023

鲁棒性强的模型参数可获更好迁移能力：在迁移学习中绘制更多可迁移子网络

该研究提出了一种新的迁移学习管道，可以通过具有适当诱导的对抗鲁棒性的子网络来实现更好的迁移能力，从而在各种下游任务和稀疏性模式中实现增强的准确性和稀疏性 - 精度权衡，进一步丰富了彩票票假设。

Apr, 2023

准确神经网络剪枝需要重思稀疏优化

使用标准的计算机视觉和自然语言处理稀疏基准测试，探讨高稀疏性对模型训练的影响，提供了一种解决有关稀疏训练困难的新方法，并在高稀疏性环境下实现了在视觉模型和语言模型上最先进的结果。

Aug, 2023