度量学习的变分度量缩放
本文提出了一种新的、严谨的贝叶斯元学习算法,用于学习少样本学习的模型参数先验的概率分布。该算法采用基于梯度的变分推断来推断模型参数的后验分布。我们展示了使用我们提出的元学习算法训练的模型具有良好的校准和准确性,在两个少样本分类基准测试(Omniglot 和 Mini-ImageNet)上取得了最新的校准和分类结果,并在多模式任务分布回归中获得了有竞争力的结果。
Jul, 2019
该研究介绍了一个新的基本特征 -- 动态范围,并将其应用于深度视觉识别中。同时,提出了动态度量学习的新型任务,旨在学习可扩展的度量空间以适应跨多个语义尺度的视觉概念。该研究还提出了一种方法来缓解不同尺度之间的冲突,并在三个数据集上验证了其有效性。
Mar, 2021
提出了一种学习跨多个不同领域数据集应用的传输度量的框架,在使用基于嵌入空间的指定聚类的情况下,在少量训练集和浅层网络的情况下,我们在多个变量复杂度的数据集上实现与最新技术水平相当的结果。
Feb, 2023
本文提出了一种新的度量学习方法,将其框架构建为学习一种稀疏组合的本地判别度量,这种度量可以从训练数据中生成,从而可以自然地推导出全局、多任务和本地的度量学习公式。通过数理分析和实验验证,本方法比现有方法具有更少的参数和更好的可扩展性,从而提高了分类性能。
Apr, 2014
本文提出了一种方法,将变分自编码器和深度度量学习相结合,以在高维和结构化的输入空间上执行贝叶斯优化。通过深度度量学习中的想法,利用黑盒函数的标签指导来构造 VAE 潜在空间,促进高斯过程拟合,从而改善 BO 性能。重要的是,该方法在半监督环境下运行,在只有少量标记数据点可用时表现良好。在三个真实世界任务上进行实验,在罚款 logP 分子生成基准测试中取得了最先进的成果,仅需之前方法所需标记数据的 3%。作为理论贡献,我们提出了 VAE BO 的消失遗憾证明。
Jun, 2021
该研究提出了一种自我监督的生成辅助排序框架,以半监督视角获得典型监督深度度量学习的类内方差学习方案,该方法通过样本合成以模拟类内样本的复杂变换,并设计了自我监督学习思想下的类内排名损失函数来捕获微妙的类内变异性,从而增强了下游任务的有效性。实验表明,这种方法优于现有最先进的方法。
Apr, 2023
本文介绍了一种利用 MT-net 进行梯度下降的元学习方法,并通过任务特异性学习实现梯度下降,从而在少样本分类和回归任务上实现了最先进的效果。
Jan, 2018
本文系统地综述了度量学习的前沿研究进展,着重分析了 Mahalanobis 距离度量学习、非线性度量学习、局部度量学习等新近涌现的强大替代方法,讨论了对于结构化数据的度量学习中仍存在的挑战,旨在给出度量学习近年来的发展方向。
Jun, 2013