Jan, 2018

最优贝叶斯迁移学习

PDF
TL;DR本研究提出了一种贝叶斯迁移学习框架，该框架利用源域和目标域之间的联合先验密度，定义高斯特征 - 标签分布的精度矩阵的联合 Wishart 密度作为一种转移有用信息的桥梁，提高了目标区域的分类性能。该方法是一种快速、基于闭式形式的最优贝叶斯迁移学习分类器，实验证明了其性能优于其他最先进的迁移学习和域适应方法。
transfer learningbayesian frameworkjoint prior densitywishart densityoptimal bayesian transfer learning
发现论文，激发创造
  • 贝叶斯迁移学习

    贝叶斯迁移学习方法在不同领域的先前知识引导新学习任务的最佳信息问题上具有广泛应用，并通过模拟研究展示了其与频率论竞争者相比的性能。

    Dec, 2023

  • 贝叶斯优化的迁移学习：综述

    该研究论文介绍基于贝叶斯优化的迁移学习方法，从初始点设计、搜索空间设计、代理模型和获取函数等四个方面总结其方法论和技术细节。同时，论文彰显了该方法在广泛应用中的优点，并提出了未来的研究方向。

    Feb, 2023

  • 基于数据驱动的先验学习在贝叶斯优化中的应用

    使用转移学习方法的贝叶斯优化，不再需要任务间有相似最优输入的强假设，而是只需假设优化空间的形状相似，通过学习高斯过程代理模型的超参数先验，能更好地逼近潜在函数，特别是对于少量函数评估。我们通过使用合成数据和最近的一个空气污染优化问题作为基准，验证了学到的先验模型，并与多种转移学习方法进行了比较，结果显示 PLeBO 和先验转移方法在较少的评估次数中找到了好的输入。

    Nov, 2023

  • 基于贝叶斯的领域不变学习通过参数分布的后验概括

    通过聚合不同训练领域上的后验，本研究提出了一个引理来隐式推断参数的不变后验分布，并使用 Posterior Generalization (PTG) 方法来估计不变参数分布，该方法基于变分推断近似参数分布，包括不变后验和训练领域的后验。研究结果表明，PTG 在 DomainBed 上的各种领域泛化基准测试上表现出竞争性能，且可与现有的领域泛化方法相结合以进一步提高性能。

    Oct, 2023

  • 基于加权联合分布最优输运的多源域自适应

    本文介绍了一种新的方法 —— 加权联合分布最优输运，它利用源分布的多样性来解决多个标记源数据集到未标记目标数据集的领域适应问题，同时在源和目标分布之间寻找最优的输运对齐和重量重新平衡。 数值实验表明，该方法在模拟和现实数据集上实现了最先进的性能。

    Jun, 2020

  • 使用贝叶斯优化学习选择迁移学习的数据

    使用贝叶斯优化方法进行学习数据选择度量，可以显著提高情感分析、词性标注和语法分析等三个领域的性能。学习的度量方法不仅能够与模型、领域和任务相适应，而且能够在某种程度上用于跨模型、领域和任务的转移。

    Jul, 2017

  • 迈向更可靠的迁移学习

    本文提出了一种新的多源传递学习方法，它结合了源目标相似性和不同可靠性源之间的关系，并提出了一个综合的主动传递学习框架，包括分布匹配和不确定性采样，在合成和真实数据集上进行了广泛的实验，表明其在多项基准测试中优于其他现有模型。

    Jul, 2018

  • 贝叶斯优化的实用迁移学习

    本研究开发一种新的无超参数的集成模型来实现机器学习中的贝叶斯优化，并证明了与传统方法相比，该模型可以有效降低超参数优化时间并实现迁移学习。

    Feb, 2018

  • 更贝叶斯：具有不确定性的领域不变学习

    本文提出了一种基于概率框架和可分变贝叶斯推理的方法，将不确定性引入神经网络权重来处理由于目标域数据不可访问引起的域移位和不确定性挑战。实验结果表明，该方法在四个广泛使用的交叉域视觉识别基准测试中始终提供最先进的平均准确性。

    May, 2021

  • 领域自适应理论概述：学习界限与理论保证调查

    该论文综述了迁移学习中的一个具有代表性的子领域 —— 领域自适应，介绍了基于不同统计学习框架的学习界限等方面的理论研究现状。

    Apr, 2020