Dec, 2023

超越原型：用于更好表示学习的语义锚正则化

PDF
TL;DR基于语义锚点的正则化方法（SAR）可以通过使用预定义的类锚点来引导特征学习，从而提高紧凑度和类间可分性，避免引入偏差和错误。该方法在现有模型中可以以即插即用方式使用，并在大规模实验中优于之前的方法。
representation learningmetric-based methodsprototype-based methodsclass anchorssemantic anchor regularization (sar)
发现论文，激发创造
  • 基于原型锚定的学习：处理不完美标注的学习

    本文研究了深度神经网络中不平衡分类和嘈音容忍性，并提出了一种名为原型锚定学习（PAL）的方法，将其纳入各种学习分类方案中，以应对不完美的注释。

    Jun, 2022

  • AnchorNet: 一个弱监督的网络，用于学习对几何敏感的特征进行语义匹配

    本文提出了一种深度网络 AnchorNet，它通过一组过滤器产生了对物体结构的信息，从而在语义匹配方面取得了令人满意的结果，尤其在不同实例和不同物体类别之间的匹配方面。

    Apr, 2017

  • 保留模态结构改善多模式学习

    通过语义 - 结构保持一致性方法，在大规模多模态数据集上进行自监督学习，保留联合多模态表示空间中包含的模态特定关系以提高泛化性能。

    Aug, 2023

  • 为相对表示法引导并行锚点

    本文提出了一种优化方法，以从有限数量的种子中发现新的并行锚点，用于发现不同领域之间的语义对应关系，对齐它们的相对空间，并在多个任务中实现具有竞争力的结果，这展示了相对表示在启用潜在空间通信和零样本模型缝合方面具有潜力。

    Mar, 2023

  • 针对少样本语义分割的抗锯齿语义重建

    本文提出了反混叠语义重建（ASR）方法，以解决在已学习过的基础类上表示新型类别时出现的语义歧义问题，该方法通过引入基础向量并最大化其正交性来实现对类别的重建，同时通过对查询特征进行投影来抑制来自其他类别的干扰信号。在 PASCAL VOC 和 MS COCO 数据集上的实验结果表明，ASR 方法相对于之前的方法取得了较好的效果。

    Jun, 2021

  • 关于使用锚定训练视觉模型

    通过研究锚定方法作为训练视觉模型的通用协议，揭示了其训练和推断过程对泛化和安全性的影响，同时提出了一种新的锚定训练协议以解决其存在的问题，并在数据集和架构的不同规模和复杂性上进行了实证评估，显示出在泛化和安全性指标方面与标准训练协议相比的显著性能提升。

    Jun, 2024

  • 半监督转移学习的自适应一致性正则化

    本研究提出了自适应一致性正则化的半监督学习和迁移学习模型，可以利用源域和目标域的强大预训练模型以及目标域的标记 / 非标记数据。在 CIFAR-10、CUB-200 和 MURA 等基准测试中，该模型的性能优于 Pseudo Label、Mean Teacher 和 FixMatch 等半监督学习技术的表现，并且可以在 MixMatch 和 FixMatch 的基础上获得额外的提高。

    Mar, 2021

  • 多锚点主动域适应在语义分割中的应用

    该研究提出了一种多锚点主动学习策略用于语义分割无监督领域适应，以缓解手动注释的工作量，并在公共数据集上大量提高性能。

    Aug, 2021

  • 通过对齐、均匀性和相关性重新思考原型对比学习

    本文引入 PAUC 方法来学习基于原型的对比表示，以优化下游任务中需要强语义信息的有意义的表示。在各个基准测试中，实验结果证明了我们的方法在提高对比原型表示的质量方面的有效性，并在 ImageNet-100 数据集上将分类下游任务的性能提高了 2.96％，在 ImageNet-1K 数据集上提高了 2.46％。

    Oct, 2022

  • 隐身嵌入：在深度神经网络中利用嵌入空间进行模型正则化

    本文提出了一种新的方法，通过利用信息丰富的潜在嵌入及其高内类相关性，从同质样本的子集中创建虚拟嵌入，并使用这些虚拟嵌入来降低它们在潜在嵌入空间中的类间相似度，以达到模型规范化的目的且不需要昂贵的超参数搜索，并在两个流行和具有挑战性的图像分类数据集（CIFAR 和 FashionMNIST）上验证了方法的有效性。

    Apr, 2023