基于偏差 - 方差分析的可解释性目标特征聚合多任务学习

Jun, 2024

基于偏差 - 方差分析的可解释性目标特征聚合多任务学习

Interpetable Target-Feature Aggregation for Multi-Task Learning based on Bias-Variance Analysis

Paolo Bonetti, Alberto Maria Metelli, Marcello Restelli

TL;DR提出了一种多任务学习方法，该方法基于任务聚类和特征变换，通过目标和特征的两阶段迭代聚合来提高回归模型的泛化能力，并在合成数据和真实世界的数据集上进行了验证。

Abstract

multi-task learning (MTL) is a powerful machine learning paradigm designed to leverage shared knowledge across tasks to improve generalization and performance. Previous works have proposed approaches to MTL that can be divided into feature learning, focused on the identification of a c

multi-task learning mtl approach task clustering feature transformation asymptotic bias and variance

发现论文，激发创造

多任务学习调查

本文综述了多任务学习的算法建模、任务聚类及半监督学习、真实世界应用等方面，并探讨其理论分析和未来方向。

Jul, 2017

多任务学习中梯度聚合的贝叶斯不确定性

使用贝叶斯推断的梯度聚合方法能够考虑梯度不确定性，提高多任务学习的性能表现。

Feb, 2024

灵活任务聚类的凸多任务学习

本文提出了一种基于特征层次的多任务学习模型，实现了对任务关系的探索，并对合成数据和真实世界数据进行了实验验证，结果表明该模型的准确性在各种任务关系程度下表现最佳，具有较高的应用价值。

Jun, 2012

MTLComb：多任务学习结合回归和分类任务的联合特征选择

多任务学习是一种学习范式，可以同时训练多个相互通信的算法。本研究提出了一种可证明的损失加权方案，用于平衡回归和分类任务，并通过建立 MTLComb 算法和软件包来展示其有效性。

May, 2024

异步多任务学习

本文提出了一种分布式和异步优化的多任务学习框架，该框架能够有效地解决数据存储在不同地点时的挑战，同时能够提高多任务学习模型的泛化性能。实证研究表明本文提出的方法在合成和实际数据集上均表现出高效和有效的性能。

Sep, 2016

多任务稀疏结构学习

本文提出了一种新型 MTL 模型，通过交替极小化算法解决任务关系结构和任务参数的联合估计问题，应用于回归和分类问题，结合灰色图模型结构学习得出任务关系结构。在温度预测等多个数据集中，该模型展现出了显著的表现优势。

Sep, 2014

异质多任务学习的分布匹配：一项大规模人脸研究

本文提出了一种基于分布匹配的方法，将多个任务进行弱监督的共同训练，建立了第一个全面学习面部行为的框架 FaceBehaviorNet，并利用该框架进行了零 / 少样本学习，实现了好于现有方法的效果。

May, 2021

大规模任务高效可扩展的多任务回归

提出一种名为 Convex Clustering Multi-Task regression Learning (CCMTL) 的算法，通过在预测模型的 k 近邻图上与凸聚类相结合，并使用新提出的优化方法有效地解决底层凸问题，使得其能够在包含大量任务的问题中实现准确性、高效性和线性可扩展性，并在真实世界和合成数据集上优于 7 种现有的 state-of-the-art 多任务学习方法。

Nov, 2018

多任务学习中的分布匹配：在人脸及其他任务上的大规模研究

挑战现有多任务学习 (MTL) 框架，提出新方法通过分布匹配实现任务间的知识交流，证明少量注释或非重叠注释情况下的 MTL 仍能成功，且在各个领域的案例研究中均带来了较大的性能提升。

Jan, 2024

跨越多任务学习和元学习：迈向高效训练和有效适应

本论文研究了多任务学习（MTL）与基于梯度的元学习（GBML）之间的关系，通过理论和实证研究证明了它们在优化公式和学习到的预测函数上的相似性，并通过样例展示了 MTL 作为一阶方法可以代替计算代价高的二阶方法 ——GBML，在大规模数据集上训练时更加有效。

Jun, 2021