Jan, 2020

自主驾驶系统中多任务网络的动态任务加权方法

PDF
TL;DR本文评估了九种任务加权策略，提出了一种结合进化元学习和基于任务的选择反向传播的新方法，用于计算任务权重以实现可靠网络训练，改进了现有方法的性能。
deep multi-task networksautonomous driving systemstask weighting strategiesevolutionary meta-learningpredictive performance
发现论文，激发创造
  • 元学习中的轨迹优化任务权重

    本文介绍了一种全新的、基于轨迹优化的元学习任务加权算法，通过将同一 mini-batch 中的任务权重视为操作，利用迭代线性二次调节器确定最优操作或任务权重，其实现全面自动化，理论上收敛于一个 epsilon0 - 稳定点，实验证明其在两个 few-shot 学习基准测试中超出了常见的手工加权方法。

    Jan, 2023

  • 面部表情的人脸识别动态多任务学习

    本文提出了一种基于动态多任务学习的方法，它可以根据训练任务的难度动态调整任务权重，从而实现面部识别和面部表情识别的性能提升，并证明其与单任务学习方法相比具有更高的性能。

    Nov, 2019

  • 利用不确定性来加权损失的多任务学习，用于场景几何和语义

    本文提出了一种基于系统中每个任务的均方差误差的权重的深度学习多任务学习方法，可以同时处理分类和回归任务，并在主管深度估计、语义和实例分割方面展示了比独立训练的模型更好的表现。

    May, 2017

  • MultiNet++：多任务学习的多流特征聚合和几何损失策略

    本研究提出了基于多流多任务网络的技术来解决自动驾驶领域中的多个视觉感知任务，通过利用先前帧的特征表示实现深度学习的联合分割、深度和运动预测，并采用几何平均数作为任务损失的替代方案，可以更好地处理不同任务收敛速度之间的差异，实验结果表明，这种方法优于现有的多任务学习解决方案。

    Apr, 2019

  • 可控的动态多任务架构

    本文提出了一种可控的多任务网络，该网络根据用户所需的任务偏好和资源限制以动态方式调整其架构和权重，并通过利用任务亲和性和一种新的分支规则化损失来训练两个超级网络以预测适应权重的树状模型。

    Mar, 2022

  • 大规模多任务学习系统中动态引入任务的进化方法

    本文提出了一种基于进化的技术，能够生成能够支持动态添加新任务的大规模多任务模型，并演示了该方法在 69 个公共图像分类任务上取得了有竞争力的结果，相对于在公共数据上训练的最佳模型，其错误率降低了 15%。

    May, 2022

  • 动态数据混合最大化专家混合模型的指令调优

    基于混合专家模型（Mixture-of-Experts），提出了一种动态数据混合的处理方法以优化模型性能，通过动态地调整训练数据的采样权重，减少数据集中的冗余，从而在有限的训练预算下最大化整体性能。

    Jun, 2024

  • MultiNet：面向自动驾驶的多模态多任务学习

    本研究使用多模态多任务学习技术来学习自主驾驶中的多个行为模式。研究表明，该方法比单个模式训练的神经网络表现更好，而且参数数量更少。

    Sep, 2017

  • 多重损失加权与变异系数

    本文提出了一种利用方差系数确定权重，进而平衡单任务的多个损失函数的方法，并在深度估计和语义分割任务上进行了实验证明了可行性。

    Sep, 2020

  • 全数据驱动高效权重框架学习

    本文提出的学习自动加权（LAW）框架是一种有效的解决训练偏差问题的新型示例加权方法，采用三个关键组件，通过阶段搜索、重复网络奖励、全数据更新等操作实现自适应的加权方案，实验结果证明其优于标准训练流程，可在倾斜的 CIFAR 和 ImageNet 中找到更好的加权计划提高准确率。

    May, 2019