多任务学习中的辅助任务
该论文提出了三个新的自监督辅助任务,以多任务的方式训练基于图的神经网络模型,使用图卷积网络作为构建块,在标准半监督图分类任务上实现了有竞争力的结果。
Nov, 2020
MultiDepth 是一种新的卷积神经网络训练策略和体系结构,它允许将单个图像深度估计作为多任务问题来解决,辅助性任务可以禁用,从而有效地提高了训练精度和准确性。
Jul, 2019
本文提出利用多任务学习中的软参数共享机制,在卷积神经网络中加入侧向转换块,并使用跳接连接的方式提取各深度的任务特定特征,从而在面部关键点检测等相关任务中取得更好的精度和深度特定影响的知识共享效果。
Oct, 2017
该研究提出了一种框架,通过联合利用来自具有足够多类别的大型辅助任务和这些任务之间共享的信息,来学习在训练样本有限、标签集仅部分重叠或甚至没有的多任务。其关键思想是利用可用的标签信息,自适应地修剪辅助网络的隐藏层神经元,构建每个任务的相应网络,并伴随着个别任务的联合学习。实验结果表明,该方法比最先进的方法更加有效。
Jan, 2022
本文研究使用单个卷积神经网络对不同成像模式下的医学图像进行分割的方法,实验结果表明这种方法在不同任务中具有相当的分割性能,证明了卷积神经网络结构的高容量性。因此,可以在医学实践中使用单个系统进行自动分割任务,而无需进行任务特定的训练。
Apr, 2017
医学图像分割使用深度学习技术取得了重大进展,然而医学应用中固有的数据稀缺性对深度学习的分割方法构成了巨大挑战。自监督学习通过从可用数据集中创建辅助学习任务,并利用解决这些任务获得的知识来更好地解决目标分割任务,提供了一种解决方案。本研究提出了一种两阶段训练方法,可以有效利用多个辅助任务创建多个出色的分割模型,然后将它们合并为一个更强大的模型。该方法在 X 光气胸分割数据集上训练了 U-Net 模型,并对几种现有方法进行了实验比较,结果表明了方法的优越性。
Feb, 2024
本文提出了一种基于隐式微分的新框架 AuxiLearn,针对多任务学习中设计有用的辅助任务和将辅助任务组合成一个连贯的损失函数的挑战,当已知有用的辅助任务时,可以学习一个网络将所有损失合并成一个连贯的目标函数,并且能够学习任务之间的非线性交互;当不知道有用的辅助任务时,可以学习一个生成有意义的新辅助任务的网络。在图像分割和低数据情况下学习属性等多个任务和领域中,AuxiLearn 均表现出比竞争方法更为出色的性能。
Jun, 2020
本文介绍了一种基于卷积神经网络的深度学习多任务字典学习框架,使用 MSCC 方法学习不同的任务,以预测未来认知临床得分,并在公开的神经影像队列中应用模型进行临床测量预测,取得了优异的结果。
Aug, 2017