ICMLMay, 2021

更贝叶斯：具有不确定性的领域不变学习

PDF
TL;DR本文提出了一种基于概率框架和可分变贝叶斯推理的方法，将不确定性引入神经网络权重来处理由于目标域数据不可访问引起的域移位和不确定性挑战。实验结果表明，该方法在四个广泛使用的交叉域视觉识别基准测试中始终提供最先进的平均准确性。
domain generalizationprobabilistic frameworkvariational bayesian inferenceneural networkdomain-invariant learning
发现论文，激发创造
  • 基于贝叶斯的领域不变学习通过参数分布的后验概括

    通过聚合不同训练领域上的后验，本研究提出了一个引理来隐式推断参数的不变后验分布，并使用 Posterior Generalization (PTG) 方法来估计不变参数分布，该方法基于变分推断近似参数分布，包括不变后验和训练领域的后验。研究结果表明，PTG 在 DomainBed 上的各种领域泛化基准测试上表现出竞争性能，且可与现有的领域泛化方法相结合以进一步提高性能。

    Oct, 2023

  • 具有变分信息瓶颈的学习到学习方法，用于域通用化

    本文介绍了一种面向领域概括的概率元学习模型，并通过提出的元变分信息瓶颈原则，即 MetaVIB，学习了领域不变表示，从而更好地处理了预测不确定性和领域转移问题。

    Jul, 2020

  • 基于模型的领域通用化

    本篇论文提出了一种基于模型的域泛化方法，通过对数据生成过程和同变性条件的建模，将域泛化问题转化为一个无限维的有约束统计学习问题，并利用非凸对偶理论发展了有约束松弛的统计问题，提出了具有收敛保证的域泛化算法，并在 ColoredMNIST，Camelyon17-WILDS，FMoW-WILDS 和 PACS 等基准测试中取得了高达 30 个百分点的改进。

    Feb, 2021

  • 基于不确定性指导的模型泛化应用于未知领域

    本文关注在单源情况下广义化的最坏情况，提出了基于不确定性评估的输入与标签空间扩充方法，使用贝叶斯元学习框架，在图像分类、语义分割、文本分类和语音识别等范畴取得了优异的表现。

    Mar, 2021

  • 具备领域知识先验的贝叶斯神经网络

    通过变分推理，提出了一种将通用形式的领域知识（通过损失函数表示）整合到贝叶斯神经网络先验中的框架，使得后验推断和抽样具有高效性，以提升预测性能。

    Feb, 2024

  • 无监督领域泛化的分层变分自编码

    本文提出了一种基于层次生成方法和变分自编码器的无监督领域泛化算法，能够在不受领域特定信息约束的情况下学习表征并在多种领域设置下优于先前提出的领域泛化算法和现有的其他非生成式方法。另外，作者还提出了基于 ELBO 的模型选择和弱领域监督算法。

    Jan, 2021

  • 领域索引变分贝叶斯：可解释性领域索引用于领域自适应

    本文提出了一种通过 Adversarial Variational Bayesian 方法从多域数据中推断域索引的框架，旨在提高域自适应性能并提供关于域之间关系的额外洞察力，实验结果表明该模型可以生成可解释的域指数，相比其他域自适应方法，在合成和真实数据上均能实现更优异的性能。

    Feb, 2023

  • 使用变分推断的半监督随机多领域学习

    该研究提出了一种基于潜变量模型的多领域学习系统方法，可用于提取重要的领域信号，并在对抗性学习等方法中，相对于其他对比基准领域适应方法，显著提升了性能。

    Jun, 2019

  • 现实世界域泛化的自适应方法

    本论文提出了基于领域自适应的方法，将无监督训练样本中的领域信息作为辅助信息，采用学习的鉴别性领域嵌入构建领域自适应模型，用于即使在未见过领域上的预测任务。该方法在各种领域泛化基准上均实现了最先进的性能，并引入了首个现实世界的大规模领域泛化基准 Geo-YFCC，相对于现有的方法，该基于领域自适应的方法在该数据集上实现了显着的优化。

    Mar, 2021

  • 计算成像反问题的变分推断

    本文介绍了一种新的框架，基于少量实验数据、领域专业知识和现有图像数据集来训练变分推断，使贝叶斯机器学习模型可以在最小数据收集效果下解决成像反问题。经过广泛的模拟实验证明了该方法的优点，并在两个实验光学设置中应用：全息图像重建和通过高度散射介质成像。在两种设置中，都用很少的训练数据，达到了最先进的重建效果。

    Apr, 2019