无监督特征学习与新兴数据驱动的原型特性
本文提出了超边界学习的想法,并使用理想原型的概念来定位超边界原型,以避免先前的标签知识,同时通过引入受惩罚的 Busemann 损失来计算原型间的距离。与最近的超球面和超边界原型方法相比,实证结果表明我们的方法提供了自然的分类置信度解释,并取得了更好的表现。
Jun, 2021
本文研究使用超几何流形来进行自监督学习中的原型聚类。作者扩展了遮蔽孪生网络以操作包含理想边界的超几何空间,并利用超几何投影来确保下游任务的表示保持超几何性。实验证明这种方法在极少样本学习任务中具有改进,并在低维线性评估任务中与欧几里得方法相当。
May, 2023
最近在表示学习方面的研究表明,分层数据在双曲空间中能产生低维度和高信息量的表示。然而,即使双曲嵌入在图像识别方面引起了人们的关注,其优化过程容易遇到数值障碍。此外,与传统的欧几里德特征相比,目前尚不清楚哪些应用最能受益于双曲性所施加的隐式偏差。本文主要着眼于原型双曲神经网络,特别关注双曲嵌入在高维度情况下收敛于庞加莱球边界的倾向,以及这对少样本分类的影响。我们展示了最佳的少样本结果是通过在共同的双曲半径下得到的双曲嵌入得到的。与以往的基准结果相比,我们证明了无论嵌入维度如何,通过配备欧几里德度量的固定半径编码器都可以获得更好的性能。
Sep, 2023
使用张量场来建模类的几何学方法在 few-shot learning 方面是一种更加有效的方法,我们提出了一种简单而有效的方法 -- hypersphere prototypes (HyperProto),使用动态尺寸的超球体来表示类信息,同时在 NLP 和 CV 领域上的实验验证了我们方法的有效性。
Nov, 2022
本文提出了一种上下文感知的双曲度量学习方法,可用于 few-shot learning 任务,并且在多个分类基准上的实验结果表明这种方法不仅具有鲁棒性,而且表现优于基线模型。
Dec, 2021
该论文提出了一种基于 Poincaré ball 模型的统一框架,用于构建可伸缩、简单的超几何线性分类器,并给出了凸优化的解决方案,该算法在合成数据集和真实数据集上的表现均有很高的准确率。
Sep, 2021
本文介绍了一种利用超几何空间的嵌入方法提高图数据的建模效率和性能的新算法,以及如何通过 Laplace 算子的本征函数来逼近超几何空间中的等度不变核,从而更好地实现了超几何网络的建模。
Feb, 2022
本文研究在有限或无注释但有大量未标记数据的情况下进行图像分类的问题,并提出了一种新方法 ——Ensemble Projection (EP)。该方法通过从所有可用数据中采样一组富有代表性的视觉原型,然后使用这些原型来训练判别分类器,最终产生新的特征向量。该方法在半监督图像分类、无限制自学习图像分类和图像聚类方面均取得了很好的效果。
Feb, 2016
通过在超球面上平均分配表示,以优化均匀性和本地相似性存储之间的权衡,从而减少 hubness 问题,改善距离分类性能,提高少样本学习的准确性。
Mar, 2023