Jan, 2024

多视角学习的 PAC-Bayesian 领域自适应边界

PDF
TL;DR该论文在多视角学习环境中提出了一系列关于域适应的新结果，通过 Pac-Bayesian 理论分析泛化边界，结合了之前将多视角整合到域适应中所忽视的两种范式，并构建了一种适用于多视角域适应的新型距离，最后将新边界与之前的研究进行了对比。
domain adaptationmulti-view learninggeneralization boundspac-bayesian theorydivergence
发现论文，激发创造
  • PAC-Bayesian 环境下域适应界限的改进

    本文基于 PAC-Bayesian 理论对领域自适应进行了理论分析，提出了 Germain et al. 等人之前领域适应界限的改进方法，首先给出了另一个更紧密且易于解释的泛化界限，此外，还为界限中出现的常数项提供了新的分析，这对于开发新的算法解决方案非常有趣。

    Jan, 2015

  • 领域自适应的新 PAC-Bayesian 视角

    研究 PAC-Bayesian 领域适应的问题：从源域学习一个专门针对目标域的多数表决模型。通过导出目标风险的上限，我们提供了一个新视角来控制误差度量和投票者不一致之间的权衡。我们根据这个结果推导了一个 PAC-Bayesian 的广义上限，并将其特化到线性分类器。最后，在实际数据上进行了实验。

    Jun, 2015

  • 带特化线性分类器的领域适应的 PAC-Bayesian 定理

    本文在 PAC-Bayesian 理论中提供了两个主要方面的贡献，分别是基于新的分布伪距离提供一个更紧的 PAC-Bayesian 领域适应性边缘；另外实现了对多源领域适应性的推广。

    Mar, 2015

  • 领域自适应的泛化界限

    本文提出了一种新的框架，通过应用获得的领域自适应学习过程的泛化界，分析了学习过程的渐近收敛。为了测量两个领域之间的差异，使用积分概率度量。通过不同的不等式和复杂度测量，证明了领域自适性学习的一些性质，并用数值实验验证了理论结果的正确性。

    Apr, 2013

  • 协变量转移下的 PAC 学习保证

    本文探讨了领域自适应问题，证明了只要在一些条件下，任何 PAC 可学习的概念类都可以在协变量转移条件下进行 PAC 学习，同时提出了拒绝取样算法的界限并证明其是某些情况下领域自适应问题的解决方案。

    Dec, 2018

  • 对抗生成模型的 PAC-Bayesian 泛化界限

    本论文在 PAC-Bayesian 理论的基础上扩展了生成模型，并为基于 Wasserstein 距离和总变差距离的模型开发了广义的泛化界限，特别地，本论文提供了新的训练目标，以适用 Wasserstein GANs 和 Energy-Based GANs。

    Feb, 2023

  • 通过扰动化基于变异的标签传递进行多数投票域适应

    通过扩展 MinCq 算法，利用扰动方差，提出了一种针对 PAC-Bayesian Domain Adaptation 问题的解决方案，包括利用 PV 自标记目标样本并调整超参数，通过在目标和源概率分布相似的区域进行自标记并控制不同分类器之间的选票不一致性。在 toy 问题上获得了很好的结果。

    Nov, 2013

  • 广义界限：信息论和 PAC-Bayes 的视角

    该研究旨在提供信息论概括界限及其与 PAC-Bayes 的关联的全面介绍，为最近的发展提供基础，广泛面向对概括和理论机器学习感兴趣的研究人员。

    Sep, 2023

  • 领域自适应：学习界限和算法

    本文介绍了一种针对域自适应问题的新型分布距离度量 —— 偏差距离，并给出了不同损失函数的估计方法以及普遍推广界限。同时，本文也探讨了偏差距离减少和多种损失函数的最小化算法，并验证了其在不同应用场景的有效性。

    Feb, 2009

  • 基于随机集的 PAC-Bayesian 理论对数据依赖假设集的统一泛化界限

    我们从 PAC-Bayesian 的角度提出了数据相关的均匀泛化界，通过将训练算法输出的数据相关假设集应用于随机集的严格方法，我们证明了数据相关的界，适用于多种情境，并将此方法应用于基于分形维度的泛化界和连续 Langevin 动力学以及随机梯度 Langevin 动力学的轨迹上，这些结果为噪声算法的泛化特性提供了新的信息。

    Apr, 2024