- ICML从有偏选择标签到伪标签:一种期望最大化学习框架应对有偏决策
我们提出了一种名为不平等审查的算法,用于处理标签的选择性问题,并通过理论分析和验证实验证明了其在模型性能上的好处。
- 贝叶斯深度冰
深度独立分量估计(DICE)是一种现代机器学习中用于特征工程提取的方法,通过期望最大化(EM)和马尔可夫链蒙特卡罗(MCMC)算法,我们提供了独立分量分析的新型潜变量表示,该方法还适用于非线性特征提取的流体方法,并讨论了如何实现条件后验和基 - 离散密度估计的非负张量混合学习
基于期望最大化 (EM) 的非负张量分解统一框架,通过优化 Kullback-Leibler 散度来避免在每次 M 步骤和学习率调整中的迭代,并建立了低秩分解和多体逼近之间的一般关系,进而利用了多体逼近的闭式解来同时更新所有参数。我们的框架 - 基于期望最大化的多模型三维配准的理论分析
我们对一种基于期望最大化算法进行了详细的理论分析,该算法最近被提出用于解决一种名为多模型 3D 注册的变种问题,我们旨在通过确定一些条件来填补已有的理论知识的空白。
- 嘈杂信道的力量:无监督端到端任务导向对话的 LLMs
通过使用未标注的数据和模式定义,我们开发了一种新方法来构建一个完全无监督的面向任务的对话系统,该系统可以在迭代中通过期望最大化方法逐渐改进伪标签,并利用这些标签来训练一个端到端的对话代理,其在 MultiWOZ 基准测试上的成功率超过了强大 - 多模态 3D 配准:在杂乱的点云中找到多个移动物体
我们研究了 3D 注册问题的一个变种,名为多模型 3D 注册。在多模型注册问题中,我们给出两个描绘了不同姿态下一组物体(可能包括属于背景的点)的点云,并且我们希望同时重建出这两个点云之间所有物体的运动。该方法通用于标准的 3D 注册,其中需 - 从弱监督学习的一般框架
这篇论文介绍了一种从弱监督学习中学习的通用框架,其中核心是使用期望最大化 (EM) 方法灵活处理各种弱监督来源,包括实例部分标签,聚合统计,成对观测和无标签数据。我们还提出了一种先进的算法,使用非确定性有穷自动机 (NFA) 和前后向算法显 - 学习带有噪声标签的两个期望最大化的相互连接
应对深度学习算法中的劳动密集型标注成为一个瓶颈,处理不完美的标签日益受到关注,并成为一个活跃的研究领域。我们解决了学习带有噪声标签的问题,将其形式化为在嘈杂数据中找到结构化流行体的任务。在这个框架中,我们提供了一个合适的目标函数和一个基于两 - 稀疏贝叶斯学习模型的超参数估计
本文提出了一个综合框架,用于稀疏贝叶斯学习模型中的超参数估计,包括著名的算法如期望最大化、MacKay 和凸包算法。通过交替最小化和线性化范式来统一解释这些算法,并引入了一种新颖的算法,表现出增强的效率,尤其是在低信噪比条件下。此外,还通过 - 混合线性回归的全局在线识别收敛性
本文研究了混合线性回归模型的在线识别和数据聚类问题,引入了两种基于期望最大化原理的相应的新的在线识别算法,证明了这两种算法都在不依赖传统的独立同分布数据假设的情况下全局收敛。在分析中的一个关键步骤是建立相应微分方程的稳定性以应用著名的 Lj - 混合线性回归模型的聚类数据中的 EM 算法
在分布式数据中,通过结构化数据进行 EM 估计的集群结构可有效提高学习方案,最多需要 O (1) 次迭代以达到相同的统计准确性,只要 m 按照 e^{o (n)} 增长。
- 正则化 EM 算法
本文提出了一种基于 EM 算法的正则化版本,该方法可高效地利用先验知识来应对样本数据较小的情况,并通过收缩估计量以实现正定的协方差矩阵更新,从而改善 EM 算法在 Gaussian 混合模型(GMM)处理中的性能问题。此外,基于真实数据的实 - 深高斯混合集合
本文介绍了一种新颖的概率深度学习技术 —— 深高斯混合集成(DGMEs),它能够准确量化认知不确定性和 Aleatoric 不确定性,通过假设数据生成过程遵循高斯混合的模型,DGMEs 能够逼近复杂的概率分布。实验结果表明,DGMEs 在处 - 神经马尔可夫跳进程
本文提出了一种基于神经常微分方程的变分推断算法,在 Markov 跳跃过程中通过学习神经连续时间表示来近似后验分布,相比于 Monte Carlo 和期望最大化方法具有更高效的性能。
- ECCV知识浓缩蒸馏
本文提出基于动态学习的知识凝聚蒸馏方法 (KCD),通过期望最大化 (EM) 框架从教师的知识向学生转移紧凑的知识集,以有效增强学生模型的性能和蒸馏效率。
- ICCVLSG-CPD:基于局部表面几何的相干点漂移点云配准
本文提出了一种新的方法:基于局部表面几何结构的连贯点漂移(LSG-CPD),该方法通过自适应地根据本地表面的平整程度在点对点惩罚的基础上添加不同级别的点对平面惩罚,构建具有各向异性协方差的高斯混合模型,并以最大似然估计问题的形式予以解决。该 - 基于原型对比和逆向预测的无监督骨架动作识别
PCRP 网络提出了一种结合了原型聚类和反向预测的无监督表示学习框架,利用潜在变量隐式编码序列之间的语义相似性,并通过期望最大化算法进行优化,实现了在骨骼动作识别中超越监督学习方法的效果。
- KDD半监督肺癌筛查的深度期望最大化
提出一种基于半监督学习和 3D 卷积神经网络的肺癌筛查算法,采用 Expectation-Maximization 元算法进行训练,通过交叉域的方法验证其模型性能,结果表明该算法能够极大地提高肺癌筛查的分类准确性,证明了半监督 EM 是改进 - ICML一种基于 EM 方法的非自回归条件序列生成方法
本文提出的一种新方法使用统一的 EM 框架共同优化 AR 和 NAR 模型,以有效地引导系统消除输出序列中的多模态,评估结果表明,该方法在机器翻译任务上实现了具有竞争力的性能,同时显著减少了推理延迟。
- ICML具有确定等效 EM 的部分观测系统的可扩展识别
本文介绍了利用欧几里德最大化的确定性等效逼近作为块坐标升方法的离线识别部分非线性系统的方法,通过试验验证该方法可靠且可扩展,可用于常见于机器人学中的高维确定性系统识别。