该研究开发出一种称为 UTrans 的可解释性统一转移学习模型,它可以检测可转移的变量和源数据,并基于假设检验提出源检测算法来排除不可转移的数据,通过多次实验比较预测误差和解释性等因素,表明 UTrans 相对于现有的算法具有较低的误差和更好的解释性,并将其应用于美国代际流动数据并将其与经典机器学习算法进行比较。
Jul, 2023
本文探讨了针对不同目标任务使用专家表示进行转移学习的有效策略,并提出了一种基于适配器的体系结构,能够将多个专家压缩到单个模型中,并在不同数据源上评估其性能,证明其在超过 20 种不同的视觉任务上优于基线方法。
Sep, 2020
本文提出了一种基于 Meta-learning 的多任务线性回归算法,该算法能够通过低维线性表示快速学习多个相关任务,同时将这些知识传递到新的未见过的任务中,并提供了信息论下限,证明了该算法的高效性。
Feb, 2020
我们提出了两种简单且计算高效的方法,基于线性回归模型的负正则化均方差误差来估计优化的目标模型的转移性,在准确性和效率两方面显著优于现有的最先进的回归可转移性估计器。
Dec, 2023
通过实证研究公共数据如何融入差分隐私学习并从公共数据中学习共享表示,我们理论上研究了共享表示如何改进私有学习,并探索了线性回归中的两种常见迁移学习场景,结果帮助了解公共数据在不同私有迁移学习中的益处。
本文介绍了一种能够有效地实现为线性分类器的学习表示算法,该算法能够明确地补偿域不匹配,并在训练分类器的过程中形成从目标(测试)域到源(训练)域的线性转换。通过多类别适应的表示学习,能够在异构特征空间之间进行映射,并且可以扩展到大型数据集。在几个图像数据集上的实验结果表明,与之前的方法相比,提高了准确性并具有计算上的优势。
Jan, 2013
本研究探讨了强化学习中的表征传递问题,提出了一种基于预训练和生成访问的新方法,可以帮助在源任务中发现一个共享表征来快速收敛到一个接近最优策略的目标任务中。
May, 2022
现已大规模和大量可用的预训练模型,因此估计模型的迁移能力变得至关重要,本文针对这个问题进行了综述,并将其分为两个领域:无源模型迁移能力估计和有源模型迁移能力估计,提供了相关的分类和指导。
Feb, 2024
本文提出了一种新的多源传递学习方法,它结合了源目标相似性和不同可靠性源之间的关系,并提出了一个综合的主动传递学习框架,包括分布匹配和不确定性采样,在合成和真实数据集上进行了广泛的实验,表明其在多项基准测试中优于其他现有模型。
Jul, 2018
该研究提出了一种跨不同领域和任务学习可转移表示的框架,借助度量学习的方法为新任务和领域泛化嵌入,通过对抗损失解决了域偏移问题,在标记源数据和目标域中的未标记或稀疏标记的数据上进行同时优化。该方法在只有每类很少标记实例的情况下,对新领域内的新类提供了令人信服的结果,优于现有的微调方法,并证明了该框架在从图像对象识别到视频动作识别的转移学习任务中的有效性。
Nov, 2017