聚类多任务学习:一个凸形式
本文提出了一种基于特征层次的多任务学习模型,实现了对任务关系的探索,并对合成数据和真实世界数据进行了实验验证,结果表明该模型的准确性在各种任务关系程度下表现最佳,具有较高的应用价值。
Jun, 2012
本文提出了一个利用任务间关系先验知识、通过对共享特征赋予类似系数惩罚、以及通过组稀疏方法捕获公共特征的多任务学习框架,将其定义为一个非光滑凸优化问题,在真实世界数据集的回归和分类任务上实验证明该算法可以提高多个相关任务的泛化性能。
Jan, 2023
提出了一种正则化公式,用于在多任务学习中学习任务之间的关系,可以对正相关、负相关和异常任务进行建模,在对称和非对称多任务学习设置下,使用交替优化算法, 对模型参数和任务之间的关系进行优化。实验结果表明这种方法的有效性。
Mar, 2012
提出一种名为 Convex Clustering Multi-Task regression Learning (CCMTL) 的算法,通过在预测模型的 k 近邻图上与凸聚类相结合,并使用新提出的优化方法有效地解决底层凸问题,使得其能够在包含大量任务的问题中实现准确性、高效性和线性可扩展性,并在真实世界和合成数据集上优于 7 种现有的 state-of-the-art 多任务学习方法。
Nov, 2018
本文提出了一种基于局部策略的多核学习方法,采用凸优化算法和 Fenchel 对偶表示,对于应用于计算生物学和计算机视觉等应用领域的真实数据集,相比全局和非凸局部策略,此方法能够获得更高的预测准确性。
Jun, 2015
本论文将多任务学习作为多目标优化来解决,并提出了一种基于梯度下降优化算法的上限边界,证明了在现实情况下优化这个上限边界将得到帕累托最优解,在多任务深度学习问题上应用我们的方法表现出比最近的多任务学习公式或每项任务训练的模型更高的性能。
Oct, 2018
本文提出了一种多目标优化的多任务学习方法,通过迭代传递模型参数在优化过程中解决存在冲突的多个任务,并在图像分类、场景理解和多目标回归问题中进行了实验验证,结果显示该方法显著提升了发现满足 Pareto 优化的模型集合的状态,尤其在大规模图像数据集上的实验中,比现有技术取得了近两倍的超体积收敛速度。
Mar, 2024
本文针对多任务学习问题,提出一种学习任务和输入特征之间关系的联合预测方法,通过优化任务协方差和特征协方差矩阵,提出了一种高效的坐标轮流最小化算法,实验结果表明该方法比同类方法快得多,同时提供了一种非线性扩展方法,其泛化能力比现有方法更好。
Feb, 2017