prompt tuning | BriefGPT - AI 论文速递

关键词prompt tuning

搜索结果 - 124

AAAIDGL: 文本 - 视频检索的动态全局 - 局部提示调优
我们提出了一个跨模态的动态提示调整方法，使用全局 - 局部注意机制对视频进行建模，通过仅调整 0.67％的参数，我们的方法在 MSR-VTT，VATEX，LSMDC 和 ActivityNet 数据集上优于或与完全微调方法相当。
PDF5 months ago
文本与图像人物再识别的提示解耦
这篇论文主要研究了使用文本描述查询来进行图像中的人物重识别，并提出了一种两阶段训练方法，通过解耦域适应和任务适应的过程来改善性能。
PDF6 months ago
ProS：促进通用跨领域检索的广义知识生成
该研究提出了 Prompting-to-Simulate (ProS) 方法，通过 Prompt Units Learning 和 Context-aware Simulator Learning 两个阶段，利用 Content-aware
PDF6 months ago
重新参数化的低秩提示：在 0.5K 参数范围内泛化视觉语言模型
通过重新参数化低秩提示（RLP），我们设计了一种新型提示，用于高效和有效地适应基于视觉和语言的模型，并显著增加了传统提示调整的平均下游准确性，仅使用 0.5K 的参数。
PDF7 months ago
AAAISA$^2$VP：空间对齐和自适应视觉提示
通过学习二维提示令牌映射来进行图像分类的细粒度提示，以模型化输入图像的空间关系和提高有效提示能力。
PDF7 months ago
TrojFSP：在少样本提示调整中插入特洛伊
本文介绍了一种名为 TrojFSP 的方法，用于解决少样本快速提示调整中的安全问题和过拟合问题，通过目标类样本缩减技术、有选择性的令牌污染技术和特洛伊触发器注意目标函数，实现了在各种预训练语言模型和数据集上 ASR 超过 99％，对 CDA
PDF7 months ago
通过提示调优扩展 Whisper 以实现面向目标说话者的 ASR
本研究提出了一种针对目标讲话者的自动语音识别 (ASR) 方法，利用参数高效微调的方法扩展了大规模单讲话者 ASR 模型 Whisper，实验结果显示，该方法可以在只需要任务特定模型参数约 1% 的情况下，达到与先进的完全微调方法相当的性能
PDF7 months ago
通过潜在走廊进行自适应人类轨迹预测
使用可学习的图像提示将预训练的人体轨迹预测器的输入增强，从而使预测器能够从极少量的新数据中推断出部署场景的趋势，从而解决特定场景下的人体轨迹预测问题。
PDF7 months ago
AAAI通过图像适应提示调整的复合文本引导
对视觉语言模型进行复合文本引导的提示调整 (TGP-T)，通过引入文本监督和视觉特征对齐模块 (Bonder)，可以显著降低 GPU 内存占用，同时实现了卓越的性能。
PDF7 months ago
生成式大型语言模型是全能文本分析引擎：文本对文本学习是您所需的全部
通过基于生成型大型语言模型（LLM）的通用文本到文本学习架构和提示调优，解决主要的临床自然语言处理（NLP）任务，并提供了最新的性能。
PDF7 months ago
预训练语言模型中的提示优化的贝叶斯方法
以贝叶斯优化为基础，研究离散提示的优化方法及其应用于分类任务中的性能表现。
PDF7 months ago
TCP: 面向视觉语言模型的基于文本的类别感知启发式调整
通过引入文本类知识嵌入和基于类别的文本提示调整，实现了一种动态类别感知分类器，以提高对未见样本的区分能力并取得优越的性能。
PDF7 months ago
DP-OPT：隐私保护的大型语言模型优化器
我们提出了一种名为 DP-OPT 的新解决方案，通过在客户端调整离散提示，然后应用到所需的云模型上，解决了将数据发送给模型提供者进行训练时面临的隐私问题，确保离散提示不泄露个人信息。
PDF7 months ago
EMNLP借助学习的提示层改进提示调优
本文提出了一种新颖的框架，Selective Prompt Tuning (SPT)，通过在每个中间层插入由可学习的概率门控制的提示来学习选择适当的提示层，进一步提出了一种新颖的双层优化框架 SPT-DARTS，可以更好地优化可学习门并改善
PDF8 months ago
AntifakePrompt: 基于提示调整的视觉语言模型用于检测假图像
利用视觉 - 语言模型和提示调整技术，将深度伪造检测问题转化为视觉问题回答，实验表明通过预训练的视觉 - 语言模型和提示调整可以显著提高深度伪造检测的准确性。
PDF8 months ago
具有参数高效的提示调整和自适应优化的大规模语言模型联合学习
FedPepTAO 是一种参数高效的提示调优方法，采用自适应优化来实现高效且有效的大语言模型的联邦学习，通过改进性能和效率的同时解决设备和服务器端的客户漂移问题。
PDF8 months ago
多视图图对比学习的提示调优
我们提出了一种多视角图对比学习方法，并为其设计了提示调整方法，以缩小预训练和下游任务之间的差距。
PDF9 months ago
EMNLP通过低秩重参数化分解的提示调整
通过低秩矩阵来初始化软提示以减少可训练参数数量并保持有效性，进而提出分解式提示调优方法，并在高资源和低资源场景下的 SuperGLUE 基准实验结果表明了该方法的有效性。
PDF9 months ago
联邦学习中的包容性数据表示：将文本与视觉提示集成的新方法
联邦学习经常受到通信开销问题的阻碍。为了解决这个问题，我们提出了双提示联邦学习（TPFL），它整合了视觉和文本模态以更全面地描绘本地客户端数据特征。此外，为了应对数据异质性问题，我们引入了增强型 TPFL（ATPFL），并采用对比学习技术，
PDF9 months ago
黑盒大型预训练模型的高效联邦迁移调整
基于预训练模型，提出了一种去中心化的黑盒提示调整方法，解决了内存约束和数据隐私问题，并在 CV 和 NLP 任务上进行了全面评估。
PDF9 months ago