Jun, 2015

领域自适应的新 PAC-Bayesian 视角

HTML
PDF
TL;DR研究PAC-Bayesian领域适应的问题：从源域学习一个专门针对目标域的多数表决模型。通过导出目标风险的上限，我们提供了一个新视角来控制误差度量和投票者不一致之间的权衡。我们根据这个结果推导了一个PAC-Bayesian的广义上限，并将其特化到线性分类器。最后，在实际数据上进行了实验。
发现论文，激发创造
  • 领域自适应：学习界限和算法

    本文介绍了一种针对域自适应问题的新型分布距离度量——偏差距离，并给出了不同损失函数的估计方法以及普遍推广界限。同时，本文也探讨了偏差距离减少和多种损失函数的最小化算法，并验证了其在不同应用场景的有效性。

    Feb, 2009

  • 通过扰动化基于变异的标签传递进行多数投票域适应

    通过扩展MinCq算法，利用扰动方差，提出了一种针对PAC-Bayesian Domain Adaptation问题的解决方案，包括利用PV自标记目标样本并调整超参数，通过在目标和源概率分布相似的区域进行自标记并控制不同分类器之间的选票不一致性。在toy问题上获得了很好的结果。

    Nov, 2013

  • PAC-Bayesian环境下域适应界限的改进

    本文基于 PAC-Bayesian 理论对领域自适应进行了理论分析，提出了 Germain et al. 等人之前领域适应界限的改进方法，首先给出了另一个更紧密且易于解释的泛化界限，此外，还为界限中出现的常数项提供了新的分析，这对于开发新的算法解决方案非常有趣。

    Jan, 2015

  • 带特化线性分类器的领域适应的 PAC-Bayesian 定理

    本文在PAC-Bayesian理论中提供了两个主要方面的贡献，分别是基于新的分布伪距离提供一个更紧的PAC-Bayesian领域适应性边缘；另外实现了对多源领域适应性的推广。

    Mar, 2015

  • 多数投票的风险界限：从PAC-Bayesian 分析到 学习算法

    针对多数表决在二元分类中的行为，提出了一种风险界定——C-bound，考虑到选民的平均质量和平均分歧，结合具有自我包容性的PAC-Bayesian分析可从训练数据中估计C-bound，最终提出基于C-bound最小化的MinCq算法，达到与AdaBoost和SVM相当的效果。

    Mar, 2015

  • 协变量转移下的 PAC 学习保证

    本文探讨了领域自适应问题，证明了只要在一些条件下，任何PAC可学习的概念类都可以在协变量转移条件下进行PAC学习，同时提出了拒绝取样算法的界限并证明其是某些情况下领域自适应问题的解决方案。

    Dec, 2018

  • 无目标标签领域自适应综述

    本篇综述旨在回答分类器如何从源域学习并推广到目标域，分类方法包括基于样本的方法、基于特征的方法和基于推理的方法，文章还探讨了进一步研究所需的一些问题和条件。

    Jan, 2019

  • 基于图模型的领域适应问题推断

    本文基于数据驱动的无监督域适应，提出使用图形模型作为联合分布变化特征的紧凑表示，并将域适应视为贝叶斯推理问题，区分分布的常变模块并指定跨域之间的变化属性，进而为推导目标变量 $Y$ 的后验分布提供 先验知识，该框架证明适用于合成和真实数据的实验结果。

    Feb, 2020

  • 多视角学习的PAC-Bayesian领域自适应边界

    该论文在多视角学习环境中提出了一系列关于域适应的新结果，通过Pac-Bayesian理论分析泛化边界，结合了之前将多视角整合到域适应中所忽视的两种范式，并构建了一种适用于多视角域适应的新型距离，最后将新边界与之前的研究进行了对比。

    Jan, 2024

  • 递归PAC-Bayes：一种在没有信息损失的情况下对顺序先验进行频率论更新的方法

    PAC-Bayesian analysis allows sequential prior updates with no information loss and has significant improvements in empirical evaluation.

    May, 2024