prompt learning | BriefGPT - AI 论文速递

关键词prompt learning

搜索结果 - 105

ECCVGalLoP: 学习视觉 - 语言模型的全局和局部提示
全球局部提示（GalLoP）是一种新的提示学习方法，通过学习多种多样的提示，利用全局和局部视觉特征，以提高视觉 - 语言模型在少样本图像分类中的准确性和鲁棒性。在不同的少样本设置和各种背景下，GalLoP 在准确性方面优于以前的提示学习方法
PDF3 days ago
COOL：全面的知识增强提示学习用于领域自适应小样本假新闻检测
通过综合的知识增强推理学习方法（COOL），我们提出了一种适用于领域自适应少样本 fake news detection 的方法，该方法通过从外部来源提取结构化和非结构化知识，并采用对抗性对比增强的混合推理学习策略来建模领域不变的新闻 -
PDF18 days ago
通过提示梯度对齐增强领域自适应
在无监督领域自适应中，通过基于提示学习的方法，使用大规模预训练的视觉 - 语言模型来学习领域不变和领域特定的特征，并将领域无关的约束转化为优化问题，通过梯度对齐和梯度范数惩罚来实现不同领域的一致性，从而在单源和多源无监督领域自适应任务中取得
PDF21 days ago
提升预测学习中的近似 OOD 检测：最大利益，最小成本
我们研究了提示式学习模型在近似 OOD 检测中的能力，并观察到常用的 OOD 得分在此任务中表现有限。为了提升性能，我们提出了一种快速简单的后续方法，与现有的基于逻辑的得分相结合，将近似 OOD 检测的 AUROC 提高了最佳 11.67％
PDFa month ago
G-SAP：基于图的异构知识的常识推理结构感知提示学习
我们提出了一种用于常识推理的新型基于图结构的提示学习模型，名为 G-SAP，旨在在 LM+GNNs 模型中保持异构知识的平衡并增强跨模态的交互。通过将多个知识源整合到证据图中，采用结构感知的冻结 PLM 来完全融合来自证据图的结构化和文本信
PDF2 months ago
医疗应用的思维工程范式：范围审查和更好实践的建议
医疗领域中探索提示工程的有效性：回顾近期 114 项应用提示工程于医学领域的研究，覆盖提示学习、提示调优和提示设计领域，结果发现提示设计是最普遍的方法，其中有 12 篇论文中三者的术语被交替使用。ChatGPT 是最常用的大型语言模型，有七
PDF2 months ago
领域泛化的软提示生成
大型预训练视觉语言模型（VLMs）在下游任务中展现出令人印象深刻的零 - shot 能力，但人工设计的提示对特定领域不够优化。本文提出了一种用于下游任务的软提示方法，通过在特定域数据上进行微调，将软提示作为学习向量。我们从生成的角度重构了提
PDF2 months ago
CVPRAAPL：为视觉语言模型添加属性的提示学习
通过将属性添加到提示学习（AAPL）的方法，本研究通过对可学习的上下文进行引导，从而在提取文本特征时专注于未见类的高级特征，以解决传统图像增强对于未见类的泛化问题，实验证明 AAPL 在几 - shot 学习、零 - shot 学习、跨数据
PDF2 months ago
无需训练的无监督视觉 - 语言模型提示
从大量的预先训练图像 - 语言模型 (VLMs) 调整到下游任务的适应性最好的范式变成了即刻学习。我们提出了无需训练的无监督提示 (TFUP)，它在无需训练或标记的情况下最大程度地保留了内在的表现能力，并通过将预测概率与基于相似度的预测概率
PDF2 months ago
领域通用的单时序监督遥感变化检测
本文提出了基于可视化 - 语言预训练的多模态对比学习（ChangeCLIP）用于变化检测领域的广义化。同时，还提出了动态语境优化的提示学习方法。此外，为了解决现有方法中的数据依赖性问题，引入了基于单时序和可控的 AI 生成训练策略（SAIN
PDF3 months ago
CVPRPromptAD: 使用普通样本学习提示的少样本异常检测
提出了一种用于少样本异常检测的单类提示学习方法 PromptAD，在语义拼接和明确异常边界的基础上，通过自动学习提示来改进工业异常检测任务。在 MVTec 和 VisA 数据集的 11/12 个 few-shot 环境中，PromptAD
PDF3 months ago
类增量少样本事件检测
提出了一种新颖的知识蒸馏和提示学习方法（Prompt-KD），用于解决类增量少样本事件检测任务中的旧知识遗忘和新类过拟合问题。在两个基准数据集（FewEvent 和 MAVEN）上的实验表明 Prompt-KD 具备卓越的性能。
PDF3 months ago
CVPR元规范化的提示学习
通过 Prompt Meta-Regularization (ProMetaR) 方法，可以提高视觉语言模型中 prompt 学习的泛化能力，并可以从梯度对齐的角度解释这种改进。
PDF3 months ago
MD-PK: 通過提示學習和知識蒸餾進行隱喻檢測
通过知识蒸馏和提示学习，我们设立了一种为隐喻检测任务设计的提示学习模板，使得模型能够准确推断目标词的上下文含义，并使用先验知识的教师模型生成有意义的软标签，从而使得模型能够更好地应对数据稀疏性和过度自信的问题，并在多个数据集上取得了最新的实
PDF3 months ago
预训练代码智能语言模型的遗传自动提示学习
作为预训练语言模型（PLM）的流行方法之一，为了解决其使用的计算成本过高的问题，我们研究了最近在自然语言处理领域中出现的一种潜在解决方案，即 prompt learning。我们发现现有的自动提示设计方法在代码智能任务中非常有限，无法达到预
PDF3 months ago
通过多语言提示翻译进行自然语言推理的跨语言迁移
基于多语言预训练模型，通过提示学习的跨语言转移已显示出有希望的有效性，其中在低资源情景中，从源语言到目标语言的软提示转移到下游任务中。为了有效地转移软提示，我们提出了一个新颖的框架 —— 多语言提示翻译器（MPT），通过引入多语言提示翻译器
PDF3 months ago
RESTORE: 面向视觉语言提示学习的特征偏移
本论文研究了具有多模态模型的提示学习方法，指出单独优化某一模态路径上的提示会导致视觉 - 语言对齐度下降，因此提出了特征偏移和 RESTORE 方法来解决这一问题，并通过实验证明了该方法在保持特征对齐的同时优于现有的提示学习方法。
PDF4 months ago
S^2IP-LLM: 基于语义空间的 Prompt 学习与 LLM 方法的时间序列预测
利用预训练的大型语言模型（LLM）的语义空间，通过学习从共同空间获得的提示信息，在时间序列嵌入空间中执行时间序列预测，展示了优于现有基准的预测性能，并验证了受语义空间提供的提示学习的必要性。
PDF4 months ago
CVPRPromptKD: 无监督的视觉语言模型提示蒸馏
在这篇论文中，我们介绍了一种无监督域提示蒸馏框架，通过使用未标记的领域图像进行提示驱动的模仿，旨在将更大的教师模型的知识转移给轻量级目标模型。
PDF4 months ago
通过信息流展示相互增强效应
互相增强效应 (Mutual Reinforcement Effect) 研究了文本分类任务中词级别和文本级别分类之间的协同关系，探讨了两个分类级别的互相促进性能的机制。使用信息流分析来观察和验证了互相增强效应理论，并将其应用于提示学习，以
PDF4 months ago