Apr, 2023

基于理论的去噪余弦相似度方法：高效表征学习

PDF
TL;DR本文提出了一种基于余弦相似度损失函数的去噪 cosine-similarity (dCS) 损失，这种方法可以在机器学习中学习鲁棒的表示以应对真实世界数据集中的噪声干扰，实验结果显示该方法在视觉与语音领域中比基线算法具有更好的效率。
representation learningnoise contaminationdenoisingcosine-similarity-based objective functionsefficient learning
发现论文，激发创造
  • DenoSent: 自监督句子表示学习的去噪目标

    通过引入离散和连续噪声，我们提出了一种新的去噪目标，通过训练模型将噪声句子恢复为其原始形式，从而在语义文本相似性和广泛的迁移任务中实现了有竞争力的结果。

    Jan, 2024

  • 探索锐化余弦相似度

    我们的工作中，我们探讨了 Sharpened Cosine Similarity（SCS）参数的行为和潜力，并且研究了在多个卷积神经网络结构中用 SCS 替换卷积的效果。我们发现，虽然 SCS 可能不会显著提高准确性，但可能会学习到更易解释的表征。我们还发现，在某些情况下，SCS 可能会略微提高对抗性的稳定性。

    Jul, 2023

  • 基于监督对比的 CSI 表示学习在大规模 MIMO 定位中的应用

    该论文介绍了一种基于深度卷积神经网络和对比学习的大规模 MIMO CSI 相似度学习方法，并通过指纹定位实验验证证明，所提出的相似度度量方法显著提高了定位的准确性。

    Apr, 2022

  • 通过同源余弦损失函数学习深度特征进行人物识别

    本研究提出了一种新方法，通过训练一个网络来获得稳健和代表性特征，该方法通过比较和优化两个特征之间的余弦距离来解决人物识别的问题，同时减少内部差异，提高分类准确度。

    Feb, 2017

  • ArcSin: 自适应范围余弦相似性注入噪声以支持以语言为驱动的视觉任务

    通过应用论文中提出的新方法 - ArcSin，实现了在学习语言和推理与视觉任务之间进行模态转换，提高了视觉问题回答，图像字幕生成和视觉蕴含的性能。

    Feb, 2024

  • 深度余弦度量学习在人员再识别中的应用

    本文介绍了一种通过简单地重新参数化传统的 softmax 分类方案来有效优化余弦相似度的方法，在两个抽取的特征对应相同身份时会更加接近，这种方法被用于大规模行人再识别数据集中达到了竞争性的好结果。

    Dec, 2018

  • 基于单余弦相似度学习目标的深度哈希

    提出了一种具有单一学习目标的深层哈希模型，它通过最大化连续码和其对应的二元正交码之间的余弦相似度来确保哈希码的区分度和量化误差的最小化，并且可以通过批量标准化层和标签平滑方法来实现码平衡和多标签分类，这样可以消除各种损失函数的权重调整所带来的麻烦。实验结果表明，该模型在三个大规模实例检索基准测试上的表现优于现有的多损失哈希模型。

    Sep, 2021

  • xCos：用于人脸验证任务的可解释余弦度量

    本篇论文讨论了在面部识别任务中的可解释人工智能（XAI），特别是面部验证。通过提出一种称为可解释余弦（$xCos$）的新奇相似度度量，并配备一个可学习的模块，我们可以向大众提供意义深刻的解释，并展示其在 LFW 等各种竞争基准上的有效性。

    Mar, 2020

  • 上下文比对：使用度量张量提高余弦相似度测量

    本文中，我们提出了使用扩展余弦相似度测量来提高单词相似度任务的性能，我们还探索了这种方法在上下文相同的情况下特别有效的假设，并使用了不同的数据集来进行测试。测试结果显示，使用本文提出的方法可以显著提高相似度任务的性能。

    Mar, 2022

  • 基于条件分数的数据生成的去噪似然评分匹配

    通过 Denoising Likelihood Score Matching（DLSM）损失函数的训练，我们可以解决已有条件分数数据生成方法中分类器训练目标会导致分数不匹配的问题，从而更准确地建模条件分数并缓解这个问题。在 Cifar-10 和 Cifar-100 基准测试中，实验结果表明提议的方法在多个关键评估指标上优于以前的方法。

    Mar, 2022