Apr, 2024
TransFusion：高维回归的协变量漂移鲁棒迁移学习
TransFusion: Covariate-Shift Robust Transfer Learning for High-Dimensional Regression
Zelin He, Ying Sun, Jingyuan Liu, Runze Li
TL;DR在高维回归环境中，我们提出了一种具有新型融合正则化器的两步法，有效利用来自源任务的样本，提高对具有有限样本的目标任务的学习性能，并提供了目标模型估计误差的非渐近界限，表明所提方法对协变量转变的鲁棒性。我们进一步确定了估计器最小化优选的条件。此外，我们将该方法扩展到分布式环境，允许预训练和微调策略，仅需一轮通信，同时保持了集中式版本的估计率。数值测试验证了我们的理论，突出了该方法对协变量转变的鲁棒性。