Dec, 2022

树形 DNN: 一个深度容器网络

PDF
TL;DR提出了一种名为 TreeDNN 的架构及其训练方法，用于多个数据集的多任务训练，同时减少 ROM 存储要求并提高系统的响应速度。
multi-task learningtreednntraining methodologymultiple datasetsparameter storage
发现论文，激发创造
  • 深度神经网络的多任务学习：一项调查

    本篇综述介绍了多任务学习在深度神经网络中的方法，重点阐述了体系结构、优化方法和任务关系学习三个方面，并提供了常见的多任务基准的总结。

    Sep, 2020

  • 跨多种拓扑结构搜索的多任务学习动态神经网络

    本文提出一个多任务学习框架，利用限制 DAG-based 中央网络和特征共享来构建适应性强的结构，并使用流量约束和挤压损失将网络压缩离散化，从而实现在多个公共 MTL 数据集上达到最先进的性能。

    Mar, 2023

  • 深度神经网络中的多任务学习概述

    本文概述了多任务学习在深度神经网络中的应用，介绍了常见的两种方法，并讨论了最新的进展，旨在帮助机器学习从业者理解多任务学习的原理并提供选择辅助任务的指南。

    Jun, 2017

  • 密集预测任务的多任务学习：综述

    本文综述了当前深度学习在计算机视觉中的多任务学习领域的最新研究进展，主要关注密集预测任务，从网络架构和优化方法两个角度进行了阐述和总结，旨在探讨多任务共享表示学习的优势和局限性。

    Apr, 2020

  • 潜在多任务架构学习

    本文提出了一种基于潜在多任务体系结构的方法，该方法可以在 OntoNotes 5.0 的人造数据和数据中的多种领域和四种不同的任务中，比以往任何一种学习潜在体系结构的多任务问题方法都表现得更优秀，可以实现高达 15% 的平均误差降低率。

    May, 2017

  • Tree-CNN: 一种层次化的深度卷积神经网络用于增量学习

    本研究提出一种自适应分层网络结构，由 DCNN 组成，可以随着新数据的出现而不断增长和学习。该模型通过组织渐增的可用数据成特征驱动的超类，实现了分类能力的自我增长，并在 CIFAR-10 和 CIFAR-100 数据集上实现了较优的准确率，从而显著减少了训练时间。

    Feb, 2018

  • 自然语言处理中的多任务学习：概述

    本文综述了多任务学习在自然语言处理领域的应用。在介绍多任务学习的架构和优化方法后，着重讨论了在多个自然语言处理任务上的表现，最后探讨了相关研究方向。

    Sep, 2021

  • 视觉场景理解的多任务学习

    研究多任务学习在计算机视觉中的应用，通过综述现有方法，提出几种方法处理多任务学习中的重要问题，并在各种基准测试中进行评估，进一步提升了多任务学习的状态。

    Mar, 2022

  • 多任务学习的分支学习

    本论文提出了一种自动的多任务学习算法，通过提出一种树形结构设计空间和将树形分支操作作为 Gumbel-Softmax 采样过程，实现了可微网络分裂与优化，实现了多任务网络的有效设计。

    Jun, 2020

  • 自然语言理解的多任务深度神经网络

    本文介绍了一种用于跨多个自然语言理解任务的表示学习的多任务深度神经网络（MT-DNN），其延伸了 Liu 等人（2015）所提出的模型，并包含一个预先训练的双向变形器语言模型（BERT）。MT-DNN 在 10 个 NLU 任务中实现了新的最先进结果，并提高了 GLUE 基准至 82.7％（2.2％的绝对改进），其代表着领先水平。同时，我们还展示了 MT-DNN 所学习到的表征，可以用较少的数据实现领域适应，比预先训练的 BERT 表征更加优秀。

    Jan, 2019