特色混合下的 Wasserstein 机器学习
此论文介绍了基于 Wasserstein 分布鲁棒优化的数据驱动决策方法,能够解决样本有限、参数不确定的情况下,采用仅仅通过数据学习决策的问题,绕过测试样本不能涵盖所有情况的问题,具有良好的效果且容易计算。此方法对于分类、回归等基本学习任务有很好启示作用。
Aug, 2019
本文提出了 Wasserstein Mixed Linear Regression (WMLR),通过使用一种优化传输的方法来解决 Mixed Linear Regression 问题。WMLR 可以处理混合模型的联邦学习任务,收敛速度较快且具有良好的普适性和泛化性。
Jun, 2021
研究使用 Wasserstein metric 中有限训练数据集,构建球形分布空间来解决分布鲁棒优化问题,并阐述其在投资组合优化和不确定性量化等领域的实用性和性能保证。
May, 2015
本论文基于 Wasserstein 空间的球体不确定性集合,提出了用于统计学习的极小极大框架,并证明了涉及原始极大似然问题的覆盖数特性的一般化界限。 作为一个具体的例子,我们为基于传输的域自适应问题提供了推广保证,其中源域和目标域分布之间的 Wasserstein 距离可以可靠地从未标记样本中估算。
May, 2017
本文提出了一个基于 Wasserstein 距离的多标签学习损失函数,基于概率度量体提供了一种自然的概念。该算法可以有效鼓励模型在输出空间中使用所选度量的平滑性,并用 Yahoo Flickr Creative Commons 数据集上的标签预测问题验证了性能。
Jun, 2015
本文研究表明多个机器学习评估器,包括平方根 LASSO 和正则化逻辑回归,可以表示为分布鲁棒优化问题的解决方案,其相关的不确定区域基于适当定义的 Wasserstein 距离。因此,我们的表示使我们能够将正则化视为引入人为对手的结果,该对手扰动经验分布以考虑损失估计中的样外效应。此外,我们引入了 RWPI(Robust Wasserstein Profile Inference),这是一种新颖的推断方法,它将启发式似然性方法的使用扩展到最优传输成本的设置中(其中 Wasserstein 距离是一个特殊情况)。我们使用 RWPI 展示如何最优地选择不确定性区域的大小,从而能够选择这些机器学习评估器的正则化参数,而不使用交叉验证。数值实验也给出了验证我们理论发现的结果。
Oct, 2016
此研究介绍了一种基于 Wasserstein 距离的方法,用于高维数问题中的 Gaussian 混合模型的优化问题,并讨论了它的性质和在图像处理中的应用。
Jul, 2019
提出了一种基于 Wasserstein 模糊集的分布鲁棒的最小均方误差估计模型,该模型可以被视为一个零和博弈,其中一个统计学家选择估计器,另一个虚构对手选择一个先验,通过最小化和最大化预期的平方估计误差来实现其目标。
Nov, 2019
该研究提出了一种新的机器人策略优化方法,将策略更新视为一个最优输运问题,并利用高斯混合模型和 Riemannian 优化方法来优化机器人的运动策略,该方法在多个机器人任务中表现出更高的成功率和较低的方差。
May, 2023