Feb, 2024

面向多任务学习的原则性任务分组

PDF
TL;DR本研究提出一种新方法来进行多任务学习中的任务分组，弥补了现有方法的关键理论和实践限制。与以前的研究不同，我们的方法提供了一个更具理论基础的方法，不依赖于构建转移增益的限制性假设。同时，我们还提出了一种灵活的数学规划方法，可以适应广泛的资源约束，从而增强了其多样性。在计算机视觉数据集、组合优化基准和时间序列任务等多个领域的实验结果表明，我们的方法优于广泛的基线方法，验证了其在多任务学习中的有效性和普适性。
multitask learningtask groupingtheoretical groundingmathematical programming formulationresource constraints
发现论文，激发创造
  • 灵活任务聚类的凸多任务学习

    本文提出了一种基于特征层次的多任务学习模型，实现了对任务关系的探索，并对合成数据和真实世界数据进行了实验验证，结果表明该模型的准确性在各种任务关系程度下表现最佳，具有较高的应用价值。

    Jun, 2012

  • STG-MTL: 使用数据映射的多任务学习可扩展的任务分组

    提出了一种基于手工特征（Data Maps）的新的数据驱动方法，用于解决多任务学习中的任务分组、负干扰和可扩展性等挑战。通过实验证明了该方法的有效性，即使在大量任务（最多 100 个任务）下也能取得显著的效果。

    Jul, 2023

  • 复杂视觉系统上的多任务学习鲁棒性分析

    多任务学习中的问题和挑战，包括优化算法的评估，梯度级别的比较，梯度角度和相对梯度范数的局限性，以及基于特征提取器的潜在空间和特征解缠的训练监测结果。

    Feb, 2024

  • 异步多任务学习

    本文提出了一种分布式和异步优化的多任务学习框架，该框架能够有效地解决数据存储在不同地点时的挑战，同时能够提高多任务学习模型的泛化性能。实证研究表明本文提出的方法在合成和实际数据集上均表现出高效和有效的性能。

    Sep, 2016

  • 多任务学习调查

    本文综述了多任务学习的算法建模、任务聚类及半监督学习、真实世界应用等方面，并探讨其理论分析和未来方向。

    Jul, 2017

  • 序列标注的多任务学习：实证研究

    通过研究 11 个序列标注任务中的三种多任务学习方法，我们发现在大约 50% 的情况下，联合学习所有 11 个任务可以改善独立学习或成对学习任务的效果。我们还展示了成对多任务学习可以告诉我们哪些任务可以互惠，哪些任务在联合学习时可以受益。我们的一种多任务学习方法产生的任务嵌入还揭示了语义任务和语法任务的自然聚类。我们的研究打开了在自然语言处理中进一步利用多任务学习的大门。

    Aug, 2018

  • 多任务学习与部分监督的结合：计算机视觉综述

    多任务学习通过使用共享资源同时计算多个输出，具有比传统方法更低的内存需求和推理时间，本综述主要研究多任务学习如何在不同的部分监督设置下应用以解决相关挑战。

    Jul, 2023

  • 视觉场景理解的多任务学习

    研究多任务学习在计算机视觉中的应用，通过综述现有方法，提出几种方法处理多任务学习中的重要问题，并在各种基准测试中进行评估，进一步提升了多任务学习的状态。

    Mar, 2022

  • 自动化多任务机器学习中的任务分组通过任务关联性预测

    我们提出了一个基于预测器驱动的搜索方法，用于任务分组，旨在最小化多任务学习的训练次数，并展示了相较于现有基准方法，我们的方法在四个基准数据集上可以找到更好的任务分组。

    Oct, 2023

  • 多任务学习可改善最差组结果

    为了创建能为多样用户提供服务的机器学习系统，需要不仅实现高的平均性能，还要确保在不同群组中公平的结果。本文研究了多任务学习在最差群组准确性和群组公平性挑战中的潜力，并提出了通过对多任务表示空间进行正则化改进的方法。实验结果表明，我们的正则化多任务学习方法在最差和平均群组结果上都优于现有方法。

    Dec, 2023