Sep, 2020
负迁移调查
Overcoming Negative Transfer: A Survey
TL;DR本文提出了一个系统化的对负迁移的定义及其影响因素、减少负迁移算法的调查,涵盖了安全迁移、领域相似度估计、远距离迁移和负迁移减缓四个方面,并探讨了在多任务学习、终身学习和对抗攻击等相关领域中的负迁移
Abstract
transfer learning aims to help the target task with little or no training data by leveraging knowledge from one or multi-related auxiliary tasks. In practice, the success of transfer learning is not always guaran
发现论文,激发创造
负迁移的特征及其避免
研究传输学习中不同源数据对目标任务的影响,提出了负传输的正式定义,并通过对抗网络设计了一种过滤无关源数据的技术,用于解决负传输问题,在实验中该方法能够显著提高基线方法的性能并避免负面影响。
Nov, 2018
迁移学习的泛化能力:超参数化和欠参数化区间的表现
本研究旨在探讨部分相似性对转移学习表现的影响,在探究各种类型的转移学习的基础上,提供了实用的指导,以确定共同部分和任务特定部分的特征数,从而实现更好的泛化性能。
Jun, 2023
解决图上的负迁移
本研究探讨图传递学习中的负迁移现象以及结构差异对图节点嵌入的影响,提出了两种有效的方法Subgraph Pooling (SP)和Subgraph Pooling++ (SP++),通过转移子图级别的知识来减少图之间的差异。
Feb, 2024
如何选择转移模型?一项关于转移可行性估计的调查
现已大规模和大量可用的预训练模型,因此估计模型的迁移能力变得至关重要,本文针对这个问题进行了综述,并将其分为两个领域:无源模型迁移能力估计和有源模型迁移能力估计,提供了相关的分类和指导。
Feb, 2024
具信息先验的迁移学习:简化基线优于先前报道
使用迁移学习和先验分布来提高分类器准确性,发现使用初始化的标准迁移学习在性能上表现比以前的研究要好得多,使用信息先验的方法在不同数据集上的相对收益不同,其中使用各向同性协方差矩阵的方法在可理解性和调整性上具有竞争力
May, 2024