领域泛化的 Prompt 视觉 Transformer
本文探讨了基于视觉转换器（vision transformers）进行生成性知识转移的方法，通过引入可学习的提醒（prompt）标记和设计，成功地实现了良好的图像生成质量和知识转移。
Oct, 2022
使用深度学习的皮肤病变识别已经取得了显著进展，但是最近的研究发现，深度神经网络可能过度依赖与疾病无关的图像特征（如暗角，密集毛发），导致在未见环境下泛化能力差。为了解决这个问题，我们提出了一种新颖的域泛化方法 EPVT，它利用嵌入提示来协同学习来自不同领域的知识，在皮肤病变识别中展现出了更优越的泛化性能。
Apr, 2023
本篇论文研究了采用提示（prompt）对图片进行分类的方法，通过引入多模质询与 fine-tuning 相结合的方式，提高了图片分类的性能和领域适应性。
Apr, 2023
本研究提出了 S-Prompting 范式和两种方法，通过独立学习提示，从而高度减少领域增量学习（DIL）中的遗忘程度，实现了深度神经网络在连续学习中一个最典型的场景 -- 领域增量学习（DIL）中的最佳表现。
Jul, 2022
本文提出了一种基于 VLM 的开放词汇无监督领域自适应框架，并通过 Prompt Ensemble Self-Training 技术来提高领域间的图像和文本分布的转移灵活性和效率， 实验结果表明其在 10 个图像识别任务中比目前最先进的技术表现更优秀。
Jun, 2023
本研究提出了一种名为 SwitchPrompt 的轻量级提示方法，通过使用可训练的闸门提示和领域特定关键字，将预训练的通用领域语言模型来适应各种低资源域，实验结果表明 SwitchPrompt 减少了领域特定语言模型预训练的需求，并在三种文本分类基准测试中显著提高了准确率，比基准提示方法训练出的领域特定对应物最高可提高 10.7％。
Feb, 2023
我们的研究论文提出了一种新颖的基于提示的时间域泛化方法，该方法具有参数高效、时间高效的特点，并且在训练过程中不需要访问目标域数据（即未来时间段的数据）。我们的方法通过学习全局提示、领域特定提示和感知潜在时间动态的提示，使目标预训练模型适应时间漂移。它适用于分类、回归和时间序列预测等各种任务，并在时间域泛化方面取得了新的最先进基准水平。代码仓库将公开共享。
Oct, 2023
通过引入低成本提示调整范式来学习特定领域视觉提示，我们提出了一种新颖且模型无关的领域感知提示学习（DAP）框架，以在 VLN 任务中为预训练模型提供特定对象级和场景级跨模态对齐，并将领域内视觉知识以高效的方式注入预训练模型的视觉编码器。在 R2R 和 REVERIE 上的实验结果显示，DAP 相比现有的最先进方法具有明显的优势。
Nov, 2023
本文研究了将扩散模型预训练的特征表示用于语义分割的能力，发现这种方法可以在新的领域中实现非常出色的泛化能力，并提出了基于输入提示的跨域性能增强策略，包括场景提示、提示随机化、无监督学习的场景提示等，以及测试时域适应的方法，可以在不需要其他复杂技术的情况下，在四个合成到真实、清晰到恶劣天气数据集上实现最新的最优性能。
Jul, 2023