- Prompt Injection: 固定输入参数化
本文提出了一种名为 Prompt Injection(PI)的新方法,通过将提示注入 LM 的参数中,来代替在输入中添加固定提示的方法,以提高其在特定任务上的性能。在实现固定提示较长的情况下,PI 的操作效率比之前的方法高达 280 倍。我 - 基于 Prompt 对齐的梯度优化方法
本研究提出了 Prompt-aligned Gradient 算法(ProGrad)来防止针对 Prompt 的微调忘记从 VLM 学到的一般知识,并通过实验证明其比现有方法具有更强的 few-shot 泛化能力。
- 零样本跨语言 Prompt 调整的统一多语言 Prompt 传递
本文提出了一种使用 UniPrompt 的新型模型,其使用单一的多语言 prompt 并且具有语言不可知性,可以显著提高在零样本跨语言设置下的转移性能。
- 关于 prompt tuning 在自然语言处理中的可迁移性
本文考察了使用预训练的语言模型进行 Prompt tuning (PT) 的有效性,同时也研究了软提示在不同任务和不同模型之间的可迁移性,并发现神经元激活的重叠率是决定软提示可迁移性的重要指标。我们的发现表明,软提示迁移有望改善 PT,并建 - CoAPT: 上下文属性词用于提示调整
我们提出了一种名为 CoAPT(Prompt Tuning 中的 Context Attribute Words)的新型预设调整方法,用于少量 / 零样本图像分类。它通过集成属性词作为附加的预设,结合可学习的预设调整方法,促进了现有预设调整 - 一个提示封装知识的方法
该研究提出了一种名为 KiOP 的知识转移范式,通过将各种模型的知识封装到一个单独的提示中,实现了在更现实的场景中实现高效、方便的知识转移。该范式不仅证明了 Visual Prompt 在无法访问数据的情况下的有效性,而且解决了传统无数据知 - 图结构启迪学习:提高图神经网络性能的新方法
通过任务无关的图结构损失函数,我们提出了一种名为 Graph structure Prompt Learning(GPL)的新型图结构预测学习方法,能够提高图神经网络(GNNs)的训练效果,进而有效学习内在的图特征,大幅提升节点分类、图分类 - 社交媒体上可解释的抑郁症检测的异构子图网络与提示学习
通过利用 Heterogeneous Subgraph Network with Prompt Learning (HSNPL) 和对比学习机制,我们开发了一种新方法来分析社交媒体数据以便早期检测抑郁等心理健康问题,并通过在特征级别建立异构 - 通过提示对齐调整视觉 - 语言模型的候选标签
我们提出了一种框架,通过使用候选标签对 VLM 进行 prompt learning,根据模型输出和类别后验预测,结合可学习和手工构建的提示方式来消除标签的歧义,并引入了不同的训练目标,进一步提高了性能。
- ACL文本到图像生成中的图像引导的提示优化
将用户提供的自然语言提示自动精炼为系统偏好的关键词提示,对于文本到图像生成的用户体验至关重要。本研究提出了 Prompt Refinement with Image Pivot (PRIP) 方法,通过使用用户偏好图像的潜在表示作为用户和系 - 先验正常性提示变压器用于多类工业图像异常检测
我们的研究引入了 Prior Normality Prompt Transformer(PNPT)作为一种多类图像异常检测的方法,通过策略性地引入正常语义提示来解决传统方法在多类场景中遇到的问题,并结合异常样本和正常先验语义进行双流重建,实 - PIG:夜间场景分割的提示图像引导
通过利用 Prompt Images Guidance(PIG)来增强无监督领域自适应(UDA)的方法,本文提出了一种夜间场景解析(night-time scene parsing)的 Night-Focused Network(NFNet - 通过双模式对抗启示破解视觉语言模型
利用 Bi-Modal Adversarial Prompt Attack 方法,通过优化文字和视觉提示共同实施监狱突破攻击,大幅提高攻击成功率。
- 持续学习中 PEFT 技术的选择:调优并不是你所需要的全部
本研究揭示了未经审查的 Prompt tuning 选择对持续学习系统的整体性能产生负面影响,使用 LoRA 替代 Prompt tuning 的变体在领域增量和类别增量基准上实现了更高的准确性,同时具有相似的推理速度。
- ICMLDeCoOp:具有 OD 检测的鲁棒提示调节
该研究论文介绍了一种名为 Open-world Prompt Tuning (OPT) 的问题设置,通过引入 Decomposed Prompt Tuning framework (DePT) 解决 OPT 问题,并提出了一种名为 Deco - ACL提示链接还是逐步提示?文本摘要中的改进
通过对文本摘要的上下文进行比较,研究和对比了两种迭代方法,即 Prompt Chaining 和 Stepwise Prompt,发现 Prompt Chaining 方法具有更好的效果,可能是因为它可以产生更多的优化过程。
- DORY: LLM 的决策提示恢复
利用输出概率的不确定性构建新的方法 Deliberative PrOmpt RecoverY 来恢复模型的提示,通过改进和筛选提高了大型语言模型的性能,成为提示恢复任务中的标杆。
- KDD图提示学习中的跨情境后门攻击
通过实验证明了 Graph Prompt Learning(GPL)系统的持续背门威胁,引发了 GPL 技术实践中的可靠性问题。
- ACLIAPT:面向大型语言模型的指令感知提示调整
我们提出了一种新的提示调整方法,Instruction-Aware Prompt Tuning (IAPT),该方法只需要四个软标记,并且在具有可调参数的情况下优于最近的基准方法,并比低秩适应性 (LoRA) 在单主干多租户设置下更高效。
- 面部匿名提示学习用于保护隐私的文本到图像生成
通过使用可学习的提示前缀来训练文本到图像扩散模型,我们提出了 Anonymization Prompt Learning (APL) 来解决生成可识别面部图像的匿名化问题,实验证明了其成功的匿名化性能,并揭示了其在不同预训练文本到图像模型中