visual prompt tuning | BriefGPT

关键词visual prompt tuning

搜索结果 - 14

iVPT：通过跨层动态连接改进视觉提示调整中的任务相关信息共享
最近的进展显示出了将预训练的视觉转换器应用到各种下游任务中的视觉提示调整（VPT）的巨大潜力。本文提出了一种创新的 VPT 方法，即 iVPT，它通过从相邻层的输入提示令牌中引入跨层动态连接（CDC），实现了任务相关信息的有效共享，并采用动
PDF3 months ago
CVPRECLIPSE：全景分割的高效继续学习与视觉提示调整
通过 Visual Prompt Tuning 方法进行的连续全景分割 (ECLIPSE) 在 ADE20K 连续全景分割基准任务中展示出优势，在遗忘和可塑性方面达到了新的最先进水平。
PDF3 months ago
LSPT: 长期空间提示调整用于视觉表示学习
长期空间提示调整 (LSPT) 是一种革命性的视觉表示学习方法，通过引入长期的门控提示，巧妙地结合了时间编码和空间编码，提高了视觉类别的区分和识别能力，同时在 5 个 FGVC 和 19 个 VTAB-1K 基准测试中展示了优于其他方法的性
PDF4 months ago
重访视觉调优的能量与提示
通过关键参数的优化和初始化，我们提出了一种改进的视觉提示调整方法，用于优化预训练模型在下游任务中的性能表现，并在大量实验证明该方法在自我监督预训练适应性上取得了显著的性能改进。
PDF5 months ago
面对房间里的大象：视觉提示调整还是全面微调？
通过对 19 个不同数据集和任务的全面分析，我们发现 Visual Prompt Tuning（VPT）在任务目标差异大或数据分布相似时表现优异，而其成功不仅仅归因于过拟合和优化，而是因为 VPT 保留了原始特征并添加了参数。
PDF5 months ago
基于即插即用变压器单元的无监督测试时适应
通过引入 PLUTO（Plug-and-pLay modUlar Test-time domain adaptatiOn）方法，本研究介绍了一种预训练模型通过无监督的测试时自适应方法来选择和组合相关模块，实现了动态适应新领域的能力，从而对于
PDF6 months ago
AAAISA$^2$VP：空间对齐和自适应视觉提示
通过学习二维提示令牌映射来进行图像分类的细粒度提示，以模型化输入图像的空间关系和提高有效提示能力。
PDF7 months ago
迈向少样本外分布检测
多样的 fine-tuning 方法中，我们的实验结果表明，DomainSpecific and General Knowledge Fusion (DSGF) 的整合显著提高了各种方法和 fine-tuning 方法的少样本 OOD 检测
PDF7 months ago
VPA：完全测试时间的视觉提示适应
通过引入可学习的标记，VPA（Visual Prompt Adaptation）作为一个框架通过测试时间的自适应实现了视觉提示的普遍性，且不需要源领域信息，实验结果表明 VPA 有效提高了各种模型的历程泛化、抗干扰性和领域适应能力，以及对视
PDF9 months ago
ICML自监督视觉变换器的视觉提示调优改进
Visual Prompt Tuning (VPT) 是一种有效的方法，用于适应预训练的 Vision Transformers (ViTs) 到下游任务，我们通过插入适当的 prompt token 可以提高其效果，同时我们也提出了一种可
PDFa year ago
学习分离提示以进行组合图像合成
通过预训练的条件生成模型和视觉提示调优，本文提出了一种领域自适应图像合成框架，能够从少至一张图像中学习出语义和领域的解耦提示，并以目标领域风格合成图像，并进一步应用于零样本领域适应分类，实现了组合泛化。
PDFa year ago
我们真的需要大量的视觉提示吗？
本文研究了视觉转换器结构中 Prompt 数量对微调效果和自注意力操作的影响。通过理论和实证分析，我们发现增加 Prompt 数量并不能带来线性的性能提升。为此，我们提出 Prompt Condensation 技术来防止 Prompt 数
PDFa year ago
统一视觉与语言提示学习
该研究系统研究了文本和视觉提示的参数微调方法。他们提出了一个名为 Unified Prompt Tuning (UPT) 的方法，通过学习一个微小的神经网络来联合优化跨不同模态的提示，并在 11 个视觉数据集上进行了强有力的测试，取得了较好
PDF2 years ago
ECCV视觉提示调优
该论文提出了一种名为 Visual Prompt Tuning（VPT）的高效且有效的调整大规模 Transformer 模型的替代方案，相较于 fine-tuning，VPT 仅在输入空间中引入很少的可训练参数，通过在广泛的下游识别任务上
PDF2 years ago