Dec, 2023

ProS：促进通用跨领域检索的广义知识生成

PDF
TL;DR该研究提出了 Prompting-to-Simulate (ProS) 方法，通过 Prompt Units Learning 和 Context-aware Simulator Learning 两个阶段，利用 Content-aware Dynamic Prompts (CaDP) 模拟产生通用特征，从而在 Universal Cross-Domain Retrieval (UCDR) 任务中实现新的最先进性能。
universal cross-domain retrievalpre-trained modelsprompt tuningprompting-to-simulatecontent-aware dynamic prompts
发现论文，激发创造
  • 语义特征学习用于通用无监督跨领域检索

    本文首次引入了 “通用无监督跨领域检索（U^2CDR）” 问题，并设计了一个两阶段的语义特征学习框架来解决该问题。在第一阶段，通过实例 - 原型 - 混合对比损失和语义增强损失，在域间保持一个跨领域统一的原型结构以应对类别空间差异。在第二阶段，通过修改的对抗训练机制，在领域对齐过程中保持已建立的原型结构的最小变化，从而实现更准确的最近邻搜索。对多个数据集和场景进行了广泛实验，包括闭集、部分集和开集 CDR，结果表明我们的方法在解决 U^2CDR 挑战方面显著优于现有最先进的 CDR 方法以及其他主题中一些潜在有效的研究。

    Mar, 2024

  • SynCDR: 用合成数据训练跨领域检索模型

    在跨领域检索中，我们提出了一种简单的解决方案，通过图像之间的保留类别的翻译，在不共享训练数据的情况下生成合成数据，从而提高跨领域检索模型的准确性。

    Dec, 2023

  • 领域泛化的 Prompt 视觉 Transformer

    本论文提出了基于 prompt learning 的全新方法 DoPrompt，利用 domain prompts 嵌入源域的知识进行目标域的预测，针对视觉转换器 (ViT) 在领域泛化方面存在的问题，经过大量实验证明本文方法在四个基准数据集上获得了 1.4% 的精度提高，是基于 ViT 骨干结构的状态 - of-the-art 算法的 3.5 倍。

    Aug, 2022

  • 上下文学习用一体化演示检索器

    在这篇论文中，我们提出了一种统一的演示检索器（Unified Demonstration Retriever，UDR），通过语言模型的反馈，将各种任务的训练信号转化为一个统一的列表排序公式，并采用迭代挖掘策略来找到高质量的候选人，UDR 在 30 多项任务和 13 个任务系列以及多个数据领域上的实验表明，它显著优于基准。

    May, 2023

  • 跨领域自监督原型学习用于少样本无监督领域适应

    本文提出了一种端到端的 Prototypical Cross-domain Self-Supervised Learning (PCS) 框架，通过在共享嵌入空间中编码和对齐语义结构，不仅执行跨域低级特征对齐，而且捕捉数据的类别间语义结构。与最先进的方法相比，PCS 在 FUDA 上在不同域对之间的平均分类精度分别提高了 10.5％，3.5％，9.0％和 13.2％。

    Mar, 2021

  • 领域无关的互助自适应方法用于无监督领域适应

    利用大规模预训练视觉 - 语言模型的知识进行领域不可知的相互提示，通过互相对齐视觉和文本嵌入来利用领域不变的语义，并通过语义一致性损失和实例差异对齐损失进行规则化，实验证明 Domain-Agnostic Mutual Prompting（DAMP）相较于现有方法在三个无监督领域自适应基准上具有优势。

    Mar, 2024

  • 基于提示学习的领域适应

    本文提出了一种新颖的无监督领域自适应学习范式 —— 通过提示学习的领域自适应 (DAPL)，通过嵌入域信息和利用预训练的视觉 - 语言模型进行分类，此方法在多个领域的基准测试数据上表现优异，并且训练效率高、易于实现。

    Feb, 2022

  • 跨领域文本到 SQL 的自适应提示基于案例推理框架

    本文提出 CBR-ApSQL 框架，整合了 Case-Based Reasoning 和 GPT-3.5 的 API，通过自适应提示和语义领域相关性评估器，提高了 Text-to-SQL 任务的性能表现，在三个跨域数据集中的执行准确率超过了当前最先进的模型 3.7％，2.5％和 8.2％，具有很好的应用前景。

    Apr, 2023

  • 通过软提示调整大型语言模型以辅助密集检索

    本论文提出了软提示调整强化密集检索的 SPTAR 模型，并可利用少量的真实数据优化特定的软提示。在实验中，SPTAR 在密集检索任务中获得了比 BM25 和基于 LLMs 的增强方法更优秀的结果。

    Jul, 2023

  • MuDPT: 针对大型预训练视觉语言模型的多模式深层联合调整

    本文介绍了一种基于多模态深度共生的 Prompt Tuning 方法，通过学习一个模型无关的变换网络，实现了深度的双向自然语言和视觉信息融合，在图像识别和领域外泛化方面表现优异。

    Jun, 2023