Feb, 2024

CST: 参数和内存高效迁移学习的校准边调

PDF
TL;DR通过融合适配器调整和边调整的成功技术，引入了一种轻量级微调策略，即校准侧调整，用于 ResNet，该方法通过最大的过渡校准来提高网络性能，并在保持平稳训练过程的同时利用少量的额外参数。通过在 ResNet 中实施并在五个基准数据集上进行广泛实验，证明了该方法在物体检测网络中优于其他最先进技术，并取得了复杂性和性能之间的更好平衡。
object detectionlightweight fine-tuning strategycalibration side tuningfine-tuning strategiesresnet
发现论文，激发创造
  • 通过附加侧网络的网络自适应基准

    本文提出了一种简单的神经网络自适应方法 ——side-tuning，通过训练轻量级 “侧边” 网络，并通过求和与预训练网络融合，解决了微调、固定特征和其他常用方法的基本问题，性能表现优越，能够在各种场景下实现增量学习和迁移学习。

    Dec, 2019

  • 视觉变压器的分层侧调节

    通过轻量级分层侧网络（HSN）对 Visual Transformers 进行 Hierarchical Side-Tuning (HST) fine-tuning，实现了在各种下游任务中解决计算和内存需求大的问题，包括对象检测、实例分割和语义分割，取得了优于完全微调方法的性能。

    Oct, 2023

  • LST: 阶梯侧调法 — 用于参数和内存有效迁移学习

    提出了一种基于新颖的 Ladder Side-Tuning (LST) 的参数高效转移学习技术，其不需要通过 backbone 网络进行反向传播，而只需通过侧网络和梯子连接进行反向传播，从而实现了更高的存储效率，同时在自然语言处理（NLP）和视觉 - 语言（VL）任务上取得了更高的准确度、更高的存储效率。

    Jun, 2022

  • 优化变化检测的视觉变换器

    基于视觉变换模型的大多数变化检测模型目前遵循 “预训练然后微调” 的策略，但我们提出了一种高效的微调方法，通过冻结预训练图像编码器的参数并引入额外的训练参数，实现了与低资源消耗相比更具竞争力的结果，并且可扩展到语义变化检测和多时相变化检测的任何预训练模型，希望我们提出的方法能成为变化检测领域更统一的训练方法的基础模型之一。

    Dec, 2023

  • Res-Tuning：一种通过与主干结构解耦的灵活高效调优范式

    参数高效调优的新范式 Res-Tuning 将调优器与网络解耦，从而实现多样调优策略的灵活组合，并通过实验证明其在效能和效率方面优于现有替代方案。

    Oct, 2023

  • DTL：用于视觉识别的解耦式迁移学习

    通过提出深度解耦迁移学习（DTL），我们可以减少大量的 GPU 内存使用和可训练参数，并在准确性上显著超过现有的 PETL 方法，在几个标准基准上达到了新的最先进水平。

    Dec, 2023

  • 极简交互边缘调校：视觉适应的新范式

    MIET（极简交互边缘调优）通过使用轻量级的基于注意力机制的适配器网络，利用预训练模型的中间特征的加和实现了信息传递效率、参数效率、计算和内存效率，同时在各种视觉适应测试中展示出有竞争力的结果。

    Jun, 2024

  • 一种用于最小化功夫迁移学习的灵活选择方案

    本文提出了一种新的、称为弹性调整的 fine-tuning 方式，可以用于处理不同于预训练源的、但与其语义相近的实际数据。通过实验证明，相较于传统做法，在许多领域转移情况中调整中间或早期单元的效果更好。

    Aug, 2020

  • 目标检测器的校准：陷阱、评估与基准

    使用物体探测器需要进行校准，本研究针对最近的评估框架、评估指标和校准方法存在的问题进行了分析，并提出了一种基于准确度和校准性能同时评估物体探测器的原则性评估框架，以及为物体检测任务量身定制的高效且易于使用的校准方法。实验证明，相较于最近的训练时校准方法，后处理校准器更强大和有效。

    May, 2024

  • SpotTune: 自适应微调的迁移学习

    本文提出了一种自适应微调方法 SpotTune，使用策略网络根据目标任务的数据实例来选择微调层或预训练层，实验证明该方法在计算机视觉中的迁移学习应用中优于传统的微调方法，并在 Visual Decathlon 数据集中表现优异。

    Nov, 2018