本文提出了用于假设转移学习(HTL)的一种基于算法的新型框架,通过变换函数对源域和目标域之间的关系进行表征及风险分析,首次证明了,如果两个域之间存在关系,则 HTL 对于 Kernel Smoothing 和 Kernel Ridge Regression 的超额风险收敛速度比经典的非转移学习设定更快,实验结果表明了本框架的有效性。
Dec, 2016
研究表明,在模型选择中,转移距离是一个新的复杂度项,但在分类中,自适应速率可能会非常缓慢,而需有关距离的知识的 oracle 速率则可以达到更快的速度。
Apr, 2023
综述了异构迁移学习方法的最新发展,为未来的研究提供了系统的指南,包括自然语言处理、计算机视觉、多模态和生物医学等各种应用场景。
Oct, 2023
该论文综述了迁移学习中的一个具有代表性的子领域 —— 领域自适应,介绍了基于不同统计学习框架的学习界限等方面的理论研究现状。
Apr, 2020
本文综述了过去十年中 TAL 方法学术的进展和技术挑战,并提出了广义解决方案,包括实例重新加权适应、特征适应、分类器适应、深度网络适应和对抗适应,以实现全面的理解和未来挑战的安全应用。
Mar, 2019
通过综述现有的研究进展,本文讨论了在安全领域中应用迁移学习技术存在的研究空白以及潜在的未来研究方向和迁移学习辅助安全解决方案中出现的问题。
Mar, 2024
本文研究了迁移学习中的广义化误差和 excess risk 问题,提出了一种信息论分析方法。结果表明 Kullback-Leibler divergence 在特定环境中能很好地描述广义化误差,我们还将结果推广到一种特定的经验风险最小化算法中。同时,该方法在迭代,噪声梯度下降算法中有潜在的应用。
May, 2020
本文提出了一个系统化的对负迁移的定义及其影响因素、减少负迁移算法的调查,涵盖了安全迁移、领域相似度估计、远距离迁移和负迁移减缓四个方面,并探讨了在多任务学习、终身学习和对抗攻击等相关领域中的负迁移
Sep, 2020
本文提出了一个评估跨任务表示学习有效性的 H-score 度量方式,可以对在分类问题中从一个任务传递到另一个任务的表示的性能进行评估。使用实际图像数据进行的实验表明,该评价标准不仅与经验传递度量一致,而且在源模型选择和任务转移课程学习等应用中也非常有用。
Dec, 2022
介绍了机器学习中领域自适应和转移学习的数据分布变化问题,分类模型的风险最小化框架及其在复杂变化中的应用,并讨论了多种方法来解决这些问题,但要实现实用化仍需解决许多问题。
Dec, 2018