通过附加侧网络的网络自适应基准

ECCVDec, 2019

通过附加侧网络的网络自适应基准

Side-Tuning: A Baseline for Network Adaptation via Additive Side Networks

Jeffrey O Zhang, Alexander Sax, Amir Zamir, Leonidas Guibas, Jitendra Malik

TL;DR本文提出了一种简单的神经网络自适应方法 ——side-tuning，通过训练轻量级 “侧边” 网络，并通过求和与预训练网络融合，解决了微调、固定特征和其他常用方法的基本问题，性能表现优越，能够在各种场景下实现增量学习和迁移学习。

Abstract

When training a neural network for a desired task, one may prefer to adapt a pre-trained network rather than starting from randomly initialized weights. adaptation can be useful in cases when training data is sca

neural network adaptation side-tuning incremental learning transfer learning

发现论文，激发创造

CST: 参数和内存高效迁移学习的校准边调

通过融合适配器调整和边调整的成功技术，引入了一种轻量级微调策略，即校准侧调整，用于 ResNet，该方法通过最大的过渡校准来提高网络性能，并在保持平稳训练过程的同时利用少量的额外参数。通过在 ResNet 中实施并在五个基准数据集上进行广泛实验，证明了该方法在物体检测网络中优于其他最先进技术，并取得了复杂性和性能之间的更好平衡。

Feb, 2024

SubTuning: 多任务学习的高效微调

本研究探讨了一种新的用于 fine-tuning 神经网络的方法，称为子集 fine-tuning，即只对部分层进行精细调整并锁定其余权重，该方法可以在不增加计算成本的情况下实现多任务的学习和推理，并在数据稀缺的情况下实现与完全 fine-tuning 模型相当甚至更好的性能。

Feb, 2023

SpotTune: 自适应微调的迁移学习

本文提出了一种自适应微调方法 SpotTune，使用策略网络根据目标任务的数据实例来选择微调层或预训练层，实验证明该方法在计算机视觉中的迁移学习应用中优于传统的微调方法，并在 Visual Decathlon 数据集中表现优异。

Nov, 2018

NetTailor：调整架构，而非权重

提出了一种基于迁移学习的网络微调方法 NetTailor，它使用预训练的 CNN 层作为通用模块，可以与小的任务特定层组合生成新的网络，通过软注意力机制和复杂度正则化约束，最小化分类错误的同时降低网络复杂度。该方法可以使得适应简单任务的网络结构比适应复杂任务的网络结构更小，并且不降低参数共享和分类精度。

Jun, 2019

一种用于最小化功夫迁移学习的灵活选择方案

本文提出了一种新的、称为弹性调整的 fine-tuning 方式，可以用于处理不同于预训练源的、但与其语义相近的实际数据。通过实验证明，相较于传统做法，在许多领域转移情况中调整中间或早期单元的效果更好。

Aug, 2020

通过调整输入空间来使用预训练的骨干网络进行持续学习

本文提出了一种用于解决深度学习模型在不稳定环境下适应性差的问题的新方法，通过避免更新网络的预训练部分，同时学习一组新的可学习参数来改善细调过程的效果，以使网络在保证适应性和稳定性之间达到平衡，得到了不错的实验结果，适用于实时场景下的持续学习问题。

Jun, 2023

InstaTune：微调期间的即时神经架构搜索

提出了 InstaTune 方法，该方法利用现成的预训练权重为大型模型生成超级网络，通过使用多目标进化搜索算法和轻度训练的预测器，得到在准确度和 MACs 等性能目标方面优于基线的帕累托最优子网络。

Aug, 2023

极简交互边缘调校：视觉适应的新范式

MIET（极简交互边缘调优）通过使用轻量级的基于注意力机制的适配器网络，利用预训练模型的中间特征的加和实现了信息传递效率、参数效率、计算和内存效率，同时在各种视觉适应测试中展示出有竞争力的结果。

Jun, 2024

概念级微调对防止负面迁移的重要性

通过概念微调（Concept-Tuning）方法，可以改善预训练模型的特征表示，减少罕见特征和虚假关联特征的负面影响，进而提高细调方法在各种数据集上的表现。

Nov, 2023

视觉变压器的分层侧调节

通过轻量级分层侧网络（HSN）对 Visual Transformers 进行 Hierarchical Side-Tuning (HST) fine-tuning，实现了在各种下游任务中解决计算和内存需求大的问题，包括对象检测、实例分割和语义分割，取得了优于完全微调方法的性能。

Oct, 2023