KDDJul, 2015

岭回归、Hubness 和零 - shot 学习

PDF
TL;DR本文探讨了零样本学习中 hubness 的影响，当使用岭回归在例子空间和标签空间之间寻找映射关系时。我们提出了将标签映射到例子空间的方法，以抑制后续最近邻搜索步骤中的 hub 出现。在一个简单的数据模型下，我们证明了所提出的方法确实减少了 hubness。我们在双语词典提取和图像标注任务上经验证实际上降低了 hubness，并且精度相应地提高了。
hubnesszero-shot learningridge regressionnearest neighbor searchbilingual lexicon extraction
发现论文，激发创造
  • 通过缓解中心问题来改善零样本学习

    该研究提出了一种简单的方法来解决 zero-shot 任务中邻居向量被强权向心性卡住的问题，即通过考虑多个向量中潜在邻居的相似度分布来校正错误结果。结果表明，这种校正方法在跨语言、图像标记和图像检索等领域的 zero-shot 任务中均获得了稳定的改善。

    Dec, 2014

  • 缓解零样本学习 3D 物体的 Hubness 问题

    本文提出了一种用于解决零样本学习中的 hubness 问题的新的损失函数，并在 ModelNet40、ModelNet10、McGill 和 SHREC2015 等数据集上进行了广泛的评估，建立了在 3D 情况下的零样本任务的最新成果。

    Jul, 2019

  • 降低集中度改善句子 BERT 语义空间

    通过使用 Sentence-BERT 创建的嵌入表征语义空间的结构，我们发现其中普遍存在的高维度问题，即 hubness 会导致不对称的邻居关系，而减小 hubness 可以提供更好的文本语义表征。

    Nov, 2023

  • 中心点和超球体：使用超球嵌入减少中心现象和提高传导式小样本学习性能

    通过在超球面上平均分配表示，以优化均匀性和本地相似性存储之间的权衡，从而减少 hubness 问题，改善距离分类性能，提高少样本学习的准确性。

    Mar, 2023

  • 零样本学习中预测未见类别的视觉典型

    本文提出了一种新的零样本学习模型，利用语义嵌入空间中的聚类结构来对已知对象的类别语义描述和示例进行建模，并通过训练多个基于核的回归器来实现语义表示 - 范例对的结构约束，从而在包括 ImageNet 数据集在内的标准基准数据集上显着优于现有的零样本学习方法。

    May, 2016

  • 零样本核学习

    本研究在零样本学习中使用核方法来学习特征和属性空间之间的非线性映射，提出了一种简单的学习目标，并在多个零样本学习数据集和基准测试中取得了最优结果。

    Feb, 2018

  • 跨域多标签零样本学习

    本文提出了一种多标签零样本学习的框架，旨在解决测试时如何利用多标签相关性的挑战，并通过实验表明，所提出的深度回归模型和基于语义词向量的零样本学习算法，以及转导式学习策略，优于各种基线算法。

    Mar, 2015

  • 基于聚类的半监督零样本学习

    本文提出了一种基于深度可视特征嵌入空间的半监督零样本学习方法，通过在签名上进行线性变换以将它们映射到视觉特征上，使得已知类别的签名映射结果靠近相应类别的已标记样本，同时未标记的数据与其中一个未知类别的映射签名也很接近，该方法在四个公共基准测试中的表现证明了其有效性，其中三个的预测准确度均优于最先进方法。

    May, 2016

  • 从语言模型中提炼上下位关系：零样本分类的有效性研究

    本文分析基于提示和句子评分的语言模型知识提取的零样本分类学习方法，证明这些简单的方法在适当条件下优于一些有监督的策略，并且与当前的最新技术水平具有竞争力；同时说明提示的统计和语言学特性对下游性能有影响。

    Feb, 2022

  • 语义对齐减少偏见的零样本学习

    本文提出了一种新的零样本学习方法 ——Semantically Aligned Bias Reducing (SABR) ZSL，旨在通过学习一个潜在空间来解决 hubness 问题，同时通过交叉验证和弱转移约束来减轻示例类别偏移问题，并在三个基准数据集上广泛实验证明，与现有的最先进算法相比，在传统和推广的 ZSL 设置下，性能显著提高了 1.5-9％或 2-14％。

    Apr, 2019