信息几何泛化协变量移位自适应
统一分析了具有协变量转移的一般非参数方法在再生核希尔伯特空间下的理论,得出了收敛速度,并与现有文献中使用的最优结果相吻合。在合成和实际例子上进行的广泛数值研究证实了我们的理论发现,进一步说明了我们提出的方法的有效性。
Oct, 2023
该研究提出了一种用于半监督学习在数据集分布改变的情景下的新方法,基于信息理论,该方法包括了当前流行的熵最小化和伪标签方法,提出了一些新的上界描述其泛化误差情况,其在数据集分布改变的情景下胜过之前提出的方法。
Feb, 2022
本文研究了在监督学习中,训练和测试数据集经常被从不同的分布中抽样,因此需要进行领域适应技术,本文重点探讨了如何在协变量偏移适应的情况下,使用有效样本数、数据维度和泛化能力来建立一种统一的理论,并证明了降维或特征选择可以提高有效样本量,并支持在协变量偏移适应之前进行降维处理。
Oct, 2020
提出了一个基于表示学习和样本重加权的误差界,针对因果推断和无监督域自适应问题,在设计转换下减少泛化误差的算法框架,与以往方法相比具有更好的效果并具有渐近一致性。
Feb, 2018
基于观测数据的领域自适应问题,通过线性结构因果模型和表示学习方法,研究使用不变的协变量表示来解决概念漂移和改善目标预测的可行性,并通过在 Stiefel 流形上约束优化来证明大多数局部最优解与不变的线性子空间一致。通过验证实现方法和理论的三个真实数据集。
Jun, 2024
本文提出了一种自适应的线上学习方法 - 自适应符合推断方法,该方法结合了预测集和符合推断的思想,能够在任何黑箱模型中实现长时间内预期的覆盖概率,从而解决了数据变化扰动的问题。
Jun, 2021
本文探讨了领域自适应问题,证明了只要在一些条件下,任何 PAC 可学习的概念类都可以在协变量转移条件下进行 PAC 学习,同时提出了拒绝取样算法的界限并证明其是某些情况下领域自适应问题的解决方案。
Dec, 2018
在机器学习应用中普遍存在分布偏移现象,本文研究在模型错误规定和对抗性协变量偏移存在的情况下的分布偏移影响,提出一种新的算法,通过鲁棒优化技术避免了错误规定放大,同时获得最佳的统计指标,应用于离线和在线强化学习。
Jan, 2024
本文提出了一种算法,用于校准模型预测并考虑协变量转移的情况,采用重要性加权法纠正训练分布与实际分布的差异,并通过领域适应的方法实现两个分布尽可能一致, 实证结果表明,该方法在存在协变量转移时优于现有的校准方法。
Feb, 2020