本文介绍了一种简单且轻量级的任务条件模型，名为 Prompt Guided Transformer (PGT)，通过设计一个 Prompt-conditioned Transformer 块，在自注意机制中引入任务特定的提示，以实现全局依赖建模和跨多个任务的参数高效特征适应。实验证明，该方法在使用更少的参数的同时，取得了最先进的结果，并在性能和参数大小之间保持了显著的平衡。

Jul, 2023

本文提出了一种名为 “Multi-Query Transformer” 的多任务模型，利用多个任务相关的查询来进行跨任务推理，通过查询在多个任务之间建立联系，使得跨任务交互变得简单高效，并在两个密集预测数据集（NYUD-v2 和 PASCAL-Context）上取得了最优效果。

May, 2022

本文提出了一种基于特征对比一致性的多任务对比正则化方法，以解决多任务密集预测的跨任务交互建模问题，并在两个数据集上进行了大量实验，展示了该方法在密集预测方面的优越表现，创立了新的最先进性能。

Jul, 2023

本研究提出一种渐进式解码融合（PDF）方法，通过基于任务表示相似性逐步结合任务解码器，缓解任务干扰，同时利用解码器共享的归纳偏差，提高多任务网络的泛化能力和对抗攻击鲁棒性。

Aug, 2022

提出了一个可以在全局情境下建立不同任务的空间特征之间交互的倒金字塔多任务转换器，以及两种跨尺度自注意模块，以有效地促进跨任务交互。

Jun, 2023

本文通过引入编码上下文并在条件生成对抗网络中使用，扩展了基于 Transformer 的时间序列生成对抗网络 (TTS-GAN)，从而可以使用一个模型来拟合具有多个子组件的混合分布。通过定性和定量的评估指标，我们展示了该模型可以生成高维度和长时间序列数据，并在不同条件下具有较好的性能。

Oct, 2022

我们提出了一种多任务模型，使得用户可以在部署后调整所需的计算预算和任务性能的相对重要性，无需重新训练。这使得能够为动态变化的用户需求优化性能，而无需为各种情况训练和保存模型造成沉重的计算开销。

Aug, 2023

本研究考虑在多任务环境中使用公共主干和独立任务特定头部进行密集预测任务，通过捕捉依赖于任务关系的跨任务上下文来找到每个任务预测的最有效方法。研究发现，不同的源 - 目标任务对受益于不同类型的上下文，为了自动化选择过程，我们提出了一种自适应任务关系上下文模块（ATRC），通过神经架构搜索来对可用的上下文池进行采样，并输出部署的最佳配置。该方法在两个重要的多任务基准测试中实现了最先进的性能。

Apr, 2021

本文提出了一种统一的神经过程模型，该模型以强化了的 Transformer 为基础，既可以在多个数据集上有效地处理条件视频预测任务（包括视频未来帧预测和视频帧插值），又可以实现连续预测 / 插值，且性能优于现有工作。

Oct, 2022

本文提出了一种优化基于追踪算法，采用 Transformer 模型实现的目标模型预测模块，并进一步扩展模型预测器以估计第二组权重以实现精确的边界框回归，该跟踪器在多个跟踪数据集上进行了广泛的实验，并在三个基准测试中取得了 68.5% 的 AUC 值。

Mar, 2022