利用行列式点过程进行批量主动学习
提出了一种使用决策点过程 (DPPs) 对批处理进行建模的新方法,使得机器学习中的贝叶斯优化,特别是处理超参数时具有更好的表现。在合成和真实的机器人和超参数优化任务上的实验表明,基于 DPP 采样的方法优于现有技术。
Nov, 2016
通过批次主动的偏好学习方法,本研究开发了一组新的算法,能够有效学习奖励函数并在短时间内生成少量查询,实验结果表明该算法在机器人学习中的多种任务上表现良好。
Feb, 2024
本文介绍了基于行列式点过程(DPPs)的概率模型,包括算法的细节,以及该方法在机器学习中的应用,例如生成多样化的搜索结果和摘要,分析图像中的非重叠人类姿势等。
Jul, 2012
本文提出了一种基于 Determinantal Point Process(DPP)的新型非均匀采样方案,用于在 mini-batch SGD 优化中实现数据的多样性和平衡,成为了 Diversified Mini-Batch SGD (DM-SGD)。实验结果表明,该方法在无监督和监督学习中均能产生更具解释性和多样性的特征,并提高分类准确性。
May, 2017
本文介绍了行列式点过程 (Determinantal Point Processes, DPPs) 以及其在机器学习领域中的应用,比如主动学习、贝叶斯优化、强化学习和图形模型中的边缘化。同时,文章也指出了为许多与机器学习相关的设置提供了在连续域上从 DPPs 中精确采样的方法。
Sep, 2016
本文探讨了在随机梯度下降中选择 mini-batch 的方法,证明了使用斥力采样来选择 mini-batch 可以降低梯度估计的方差,提出并研究实现 Poisson Disk 采样的可行性,并通过实验证明了这种方法在模型性能和收敛速度方面都要优于标准随机梯度下降。
Apr, 2018
研究了一种高效的批量主动学习算法,该算法结合不确定性和多样性概念,在批量设置中易于扩展,并与先前研究中使用的批量大小(100K-1M)相比提高模型训练效率。同时,还证明了相关采样方法的标签复杂度保证,该方法在特定情况下几乎等同于我们的采样方法。
Jul, 2021
本文探讨了如何通过重新参数化核矩阵,并提出了一种新的基于大间隔分离原则的参数估计技术来学习标记训练数据的 DPP 的参数(核矩阵),以及在文档和视频摘要的挑战性应用中使用我们提出的方法进行建模。
Nov, 2014