迈向更可靠的迁移学习
本文提出动态转移(Dynamic Transfer)方法应对多源领域间的冲突,它能够通过对样本进行模型参数的适应性调整,突破领域界限,简化源域和目标域之间的对齐。实验结果表明,我们提出的动态转移方法在多源领域适应数据集(DomainNet)上可以将性能提升超过3%。
Mar, 2021
提出了一种主动域自适应的方法,通过新的采样策略,在满足代表性、多样性和不确定性的同时,选择最能近似整个目标分布的样本,并使用这些样本进行监督学习以及匹配源域和目标域的标签分布,取得了显著的性能提升。在四个公共基准测试上,本方法在每种自适应情景下均显著优于现有方法。
Aug, 2022
本文提出HASTE(HArd Subset TransfErability)方法,通过使用较难的目标数据子集来估计源模型转移到特定目标任务的可转移性,结合内部和输出表示方法提出两种技术来识别较困难的子集,从而可与任何现有可迁移度度量一起使用以提高其可靠性,实验结果表明,HASTE修改的指标与现有的可迁移度指标一致或更佳。
Jan, 2023
解决在稳健转移学习中由贝叶斯分类器的不确定性和目标与源分布之间弱可转移信号引起的挑战。我们介绍了一种称为''不确定性水平''的新量,用于衡量目标和源回归函数之间的差异,并提出了一种简单的转移学习过程。我们建立了一个一般定理,展示了这个新量与风险改进方面的学习可转移性是如何相关的。我们的提出的''Transfer Around Boundary''(TAB)模型,在平衡目标和源数据性能的阈值的基础上,既高效又稳健,在改进分类的同时避免了负转移。此外,我们还展示了TAB模型在非参数分类和逻辑回归任务上的有效性,达到了最优上限,与对数因子相匹配。模拟研究进一步支持了TAB的有效性。我们还提供了简单的方法来绑定过度的错误分类错误,无需在转移学习中专门的知识。
Oct, 2023
提出了一种动态集成不确定性估值框架(Detective),通过学习适应多源域的模型参数来兼容多源域的联合,综合考虑多源域与目标域之间的领域偏移,使用证据深度学习来探测信息量大的目标样本,并引入上下文多样性感知计算器来增强选定样本的多样性。实验证明,该解决方案在三个领域适应基准上的表现显著优于现有方法。
Nov, 2023
使用迁移学习和先验分布来提高分类器准确性,发现使用初始化的标准迁移学习在性能上表现比以前的研究要好得多,使用信息先验的方法在不同数据集上的相对收益不同,其中使用各向同性协方差矩阵的方法在可理解性和调整性上具有竞争力
May, 2024
本文解决了通用领域适应(UniDA)中知识迁移面临的领域与类别偏移问题。提出了一种新颖的方法,称为小批量原型部分最优传输(m-PPOT),用于实现部分分布对齐。实验结果表明,该方法在性能上优于现有的最先进UniDA方法,具有重要的应用潜力。
Aug, 2024