EM 类型算法学习主动基模型
本文提出了一种通用的在线版本 Expectation-Maximisation 算法,适用于独立观测的隐变量模型,可以更直接地将模型分布与观测的边际分布联系起来,而无需进行完整数据分布的积分,实现了一定的简化和加快收敛的效果,并且还适用于条件模型,例如本文所举出的线性回归模型的混合模型。
Dec, 2007
这篇研究论文通过使用正则化技术,解决了高维数据应用中 EM 算法在 M 步时无法定义的问题,并在此基础上,具有统计保证的处理了高维混合回归、缺失变量回归等问题。
Nov, 2015
本文介绍了一种使用名为结构 EM 的算法进行贝叶斯模型学习的方法,该算法可以有效地从不完整数据中学习信念网络的结构,并可用于学习各种概率模型,包括贝叶斯网络和其变体。
Jan, 2013
本研究提出一个基于量子算法的 EM 算法版本,用于解决高维 Gaussian 混合模型拟合问题,相较于传统算法有更快的收敛速度和更高的精度,并且能够推广到指数族分布,提供同样的计算保障。
Aug, 2019
通过在生成模型的潜在空间中学习基于能量的模型(EBM),从而使 EBM 成为先验模型,该模型建立在生成模型的自上而下网络之上。通过最大似然联合学习,可以同时学习潜在空间的 EBM 和自上而下网络,并涉及从潜在向量的先验和后验分布中进行短程 MCMC 采样。由于潜在空间的低维度和自上而下网络的表现力,简单的潜在空间 EBM 可以有效地捕捉数据中的规律,并且潜在空间中的 MCMC 采样效率高且混合良好,表现出良好的图像和文本生成和异常检测能力。
Jun, 2020
本研究提出一种使用 CNNs 结合基于期望最大化算法的弱监督方法来学习语义分割分类器的方法,并通过在简单图像上学习初始化和使用显著性和注意力地图来实现更好的结果,同时,研究也表明该方法无需使用精确像素级别标签,能在 PASCAL VOC 2012 数据集上保持高性能。
Dec, 2016
本文提出一种名为 ALOE 的算法,该算法可以学习用于离散结构数据的有条件和无条件能量模型,其参数梯度使用模拟局部搜索的学习取样器进行估计,并且通过一种新的变分幂迭代形式有效地训练能量函数和取样器。实验结果表明,在软件测试等应用领域中,学习局部搜索可以取得显著的改进。
Nov, 2020
我们提出了一种新的自训练框架,用于结合模型和数据集的不确定性信息,通过使用期望最大化 (EM) 平滑标签和全面估计不确定性信息,并设计一种基础提取网络从数据集中估计初始基础,然后通过不确定性信息将其转换为真实硬标签,以在重新训练过程中迭代更新模型和基础。在图像分类和语义分割的实验证明了我们的方法在可信自训练算法中具有优势,在不同数据集上可以获得 1-3 个百分点的改进。
May, 2024
本论文提出了一种基于梯度嵌入和预测校准的主动学习方法 Ask-n-Learn,结合数据扩增缓解伪标注期间的确认偏差,通过对基准图像分类任务(CIFAR-10,SVHN,Fashion-MNIST,MNIST)的经验研究,证明了该方法优于最近提出的 BADGE 算法等现有基线。
Sep, 2020