AAAIJan, 2023

通过提示规范化对视觉语言模型进行去偏微调

PDF
TL;DR该论文提出了一种基于提示正则化的新模式，用于在下游任务中微调大规模视觉语言预训练模型。通过提示预训练模型进行预测，来规范微调，从而保持其对迁移领域的高性能。同时，通过引入 Kullback-Leibler 损失等手段，自适应权衡预训练与下游任务训练过程中的差异，进一步提高模型性能。
发现论文，激发创造
  • 元规范化的提示学习

    通过 Prompt Meta-Regularization (ProMetaR) 方法，可以提高视觉语言模型中 prompt 学习的泛化能力，并可以从梯度对齐的角度解释这种改进。

    Apr, 2024

  • Pro-tuning: 视觉任务统一提示微调

    该论文提出了基于 prompt 调节（Prompt tuning，Pro-tuning）的方法来替代 fine-tuning，适应于各种冻结视觉模型到不同的下游视觉任务。实验结果表明，这种方法在图像分类和密集预测任务方面表现优于 fine-tuning。

    Jul, 2022

  • POUF: 面向提示的无监督微调大规模预训练模型

    本研究提出一种无监督的精调框架，用于快速和直接地向未标记的目标数据进行深度学习模型的预训练，并在图像分类、情感分析和自然语言推理任务中实现了持续的改进。

    Apr, 2023

  • 基于 Prompt 对齐的梯度优化方法

    本研究提出了 Prompt-aligned Gradient 算法（ProGrad）来防止针对 Prompt 的微调忘记从 VLM 学到的一般知识，并通过实验证明其比现有方法具有更强的 few-shot 泛化能力。

    May, 2022

  • SMART: 面向预训练自然语言模型的强健高效微调技术

    本文提出一种基于 Bregman 的 Trust-Region 优化的平滑正则化框架，用于更加有效地对预训练语言模型进行微调，避免过拟合和知识遗忘，通过实验表明在多项 NLP benchmarks 上达到了最新的性能水平。

    Nov, 2019

  • 自我调节提示：基础模型适应无需遗忘

    本文提出了一种称为 PromptSRC 的自正则化框架，以指导提示对特定任务和特定不可知通用表示进行优化，通过三种方法实现互相协调的学习，从而最大化下游任务的表现而不损害 CLIP 泛化能力。

    Jul, 2023

  • 视觉语言模型的一致性引导提示学习

    本文提出一种名为 CoPrompt 的 fine-tuning 方法，用于提高大规模 foundation 模型在 few-shot 场景下 fine-tuning 过程中的泛化能力，实现方法包括强制任务输出一致性约束、在两个受扰动的输入之间进行一致性约束、并结合提示和适配器两种调整模式的优势来调整额外参数。实验表明，CoPrompt 在基于新颖类别、领域泛化以及跨数据集评估任务上均优于现有方法。

    Jun, 2023

  • PTP：基于扰动正则化的 Prompt Tuning 提升稳定性和性能

    研究表明，在自然语言理解任务中，prompt tuning 相比下游微调能更好地利用大型语言模型的优势，但是现有的 prompt tuning 方法在训练时存在不稳定性问题。本文提出了基于扰动的正则化方法，将其应用到 prompt tuning 中，从而稳定训练并提高准确性。实验结果表明，本文提出的新方法在 SuperGLUE 和 FewGLUE 基准测试中分别比现有状态 - of-the-art 方法提高了 1.94％和 2.34％。

    May, 2023

  • 信息引导的正则化用于微调语言模型

    传统的预训练 - 微调策略已被视为现代语言建模中的转移学习策略，但需要更具目标敏感性的参数正则化方法以实现更平滑的转移学习。本文通过信息论的角度研究了预训练损失函数在任务敏感参数上的影响，并利用研究结果提出了一种新颖的用于改善模型正则化和下游泛化性能的 dropout 方法，名为 guided dropout。通过实证评估表明，相比于标准基线，在数据稀缺的情况下，我们的正则化方法始终能够得到更好的性能。

    Jun, 2024

  • 基于贝叶斯提示学习的图像 - 语言模型泛化

    研究使用变分推理解决 Empirical Risk Minimization 在 prompt learning 中的分布偏移问题，在 15 个用例中通过 Bayesian prompt learning 实现了更好的泛化性能。

    Oct, 2022