Jan, 2024

AutoFT：通过 OOD 数据优化超参数进行稳健微调

PDF
TL;DRAutoFT 是一种基于数据驱动的方法，用于指导基础模型的微调，以优化性能和改善泛化能力。实验证明 AutoFT 在多个分布转移任务上表现出色，显著提高了对新的异常数据的泛化能力，并在 WILDS-iWildCam 和 WILDS-FMoW 基准测试上取得了新的最佳结果。
发现论文，激发创造
  • CRoFT：用于 OOD 泛化和开放集 OOD 检测的鲁棒微调和并发优化

    本文提出了一种能够改善视觉 - 语言预训练模型（VL-PTMs）对闭集外分布数据的泛化能力，同时在微调期间有效检测开放集未知类别的目标函数方法。

    May, 2024

  • 迈向少样本外分布检测

    多样的 fine-tuning 方法中，我们的实验结果表明，DomainSpecific and General Knowledge Fusion (DSGF) 的整合显著提高了各种方法和 fine-tuning 方法的少样本 OOD 检测能力。

    Nov, 2023

  • 大型语言模型（LLM）在低资源环境中不同有效微调方法的比较分析

    该研究探讨了大型语言模型的细调策略，发现可替代方法在领域外泛化方面与标准方法相媲美，强调了对有效提示的需求，并针对可用资源和任务适应性进行合适的细调方法选择。

    May, 2024

  • FTFT：高效稳健的微调算法 —— 通过迁移训练动态

    通过数据映射方法和引入训练动态的方式，本文提出一种新的微调方法（FTFT），相比传统的经验风险最小化方法（ERM），该方法在训练成本减半的情况下达到更好的泛化鲁棒性。

    Oct, 2023

  • 迈向经过校准的鲁棒视觉语言模型微调

    就细调技术在预训练模型的潜力释放和模型在分布偏移中的鲁棒性之间存在权衡关系，研究提出了一种校准鲁棒微调（CaRot）方法，以在内部数据和外部数据集上提高预训练视觉 - 语言模型（VLMs）的校准性和鲁棒性。验证结果证明了该方法的有效性。

    Nov, 2023

  • AutoLoRa：一种无需参数的自动化稳健微调框架

    在该论文中，我们揭示了现有 Robust Fine-Tuning 方法存在的问题，即通过特征提取器同时优化对抗目标和自然目标会导致梯度方向明显偏离，从而降低对抗鲁棒性，并使得 Robust Fine-Tuning 非常敏感于超参数。为了解决这个问题，我们提出了通过低秩支路将 Robust Fine-Tuning 分解为两个独立的部分来优化自然目标和对抗目标。此外，我们引入了启发式策略来自动调整学习率和损失项的标量。大量的实证评估表明，我们提出的通过低秩支路自动分解的 Robust Fine-Tuning（AutoLoRa）在各种下游任务中取得了最新的最优结果。AutoLoRa 具有重要的实用性，因为它可以将预训练的特征提取器自动转换为对抗鲁棒的下游任务模型，无需搜索超参数。

    Oct, 2023

  • 高效可训练投影用于鲁棒微调

    通过投影的方法，我们提出了一种快速可训练的投影算法（FTP）来实现鲁棒精调，该算法能够快速学习每层投影约束，相较于之前的工作，我们的基准测试中速度提升了 35％。我们通过对四个不同视觉任务和五个不同的预训练模型进行的经验性研究表明，FTP 在 OOD 数据集，包括领域转移和自然失真方面表现出优越鲁棒性。此外，我们展示了 FTP 在低标签和持续学习设置等其他学习场景中的广泛适用性和益处。

    Oct, 2023

  • 用校准语言模型微调在内部和外部分布数据

    本文提出了一种经过正则化的 fine-tuning 方法，通过在数据流形内插值产生假样本，加强 In-distribution 采样的平滑性；同时通过在采样流形外的假样本输出平均分布的方式来提高 OOD 数据的可靠性，实验证明了该方法的有效性。

    Oct, 2020

  • 正交微调控制文本到图像的扩散

    本文提出了一种基于正交细调方法（OFT）的文本到图像扩散模型，该方法能够可靠地实现下游任务，包括主题驱动生成和可控生成。

    Jun, 2023

  • 离线调整：无需完整模型的迁移学习

    本文提出一种名为 Offsite-Tuning 的隐私保护和高效的迁移学习框架，可以适应亿级基础模型到下游数据，同时保留各方的隐私，比现有的需要访问全部模型权重的微调方法在计算上更加高效。

    Feb, 2023