Jun, 2023

增量边界在对比度自监督讲话者验证中的实验

PDF
TL;DR我们通过 “对称” 形式的对比损失重新思考正负样本对的采样方式，并引入了在监督设置中被广泛采用的 AM-Softmax 和 AAM-Softmax 等边缘，展示了对称对比损失的有效性，以及 Additive Margin 和 Additive Angular Margin 能够通过改善讲话人可分性来减少错误识别。最终，通过结合这两种技术并训练一个更大的模型，我们在 VoxCeleb1 测试集上取得了 7.50% 的 EER 和 0.5804 的 minDCF，优于其他对比自监督方法在讲话人验证上的表现。
self-supervised speaker verificationcontrastive-based objective functionsymmetric contrastive lossadditive marginadditive angular margin
发现论文，激发创造
  • 在对比自监督框架中添加边际以学习有区别的说话者表示

    通过改进 SimCLR 方法中的 NT-Xent-AM 损失和对称对比损失，我们实现了更好的性能表现，并在 VoxCeleb1-O 数据集上取得了 7.85％的均等误差率，超越了其他等效方法。

    Apr, 2024

  • 人脸验证的加性边距 Softmax

    提出了设想简单并具有几何可解释性的目标函数 —— 加性边际 SoftMax (AM-Softmax), 用于深度人脸验证，实验证明该函数在使用相同的网络和训练模型的情况下，始终优于现有的最先进方法。

    Jan, 2018

  • 最大间隔对比学习

    本研究在无监督学习中采用了最大化分类器决策边界的最大间隔对比学习方法，通过 SVM 优化问题选择出稀疏支持向量作为负样本，并优化算法以减小计算复杂度，从而在视觉基准数据集中获得了更好的无监督表征学习性能。

    Dec, 2021

  • 演讲者验证的大边际 Softmax 损失

    本文研究了在说话人验证中，利用不同配置的大边际 softmax 损失、环形损失和最小超球能量准则等损失函数进行训练的方法，结果显示我们的最佳系统在 EER 方面优于基线方法 15％，在 minDCF08 和 minDCF10 方面分别优于基线方法 13％和 33％。

    Apr, 2019

  • 从间隔的角度理解对比学习

    该论文研究了自监督学习中的对比学习策略，分析了边缘对梯度的调控作用，并提出了可能的改进方向，实验证明这些特性有助于获取更好的表征，并能够提高在数据集中的性能表现。

    Jun, 2023

  • 基于原型动量对比学习的自监督文本无关说话人验证

    本研究针对发音者验证（SV）探索了自我监督表示学习方法，其中，提出了一种动量对比学习框架的简单对比学习方法（SimCLR），使用排队机制的 MoCo 说话人嵌入系统来维护大量负面例子，通过波形的变形处理方法等方式以规范化两个随机部分的内在发音人的变异性，进一步将提出的 MoCo 说话人嵌入引入到典型的内存银行中，并对半监督框架进行推广，取得了与现有技术相当的性能。

    Dec, 2020

  • 用于端到端说话人验证的角度 Softmax 损失

    本研究使用角度 softmax (A-softmax) 替代传统的 softmax loss 和三元组损失，将其引入端对端说话人验证中进行特征学习，结合 PLDA 后进一步提升了该系统的性能。

    Jun, 2018

  • 为什么角边缘损失对半监督异常声音检测很有效？

    通过实验证明，最小化角度边缘损失还可以最小化紧凑性损失，从而避免学习平凡的解决方案，同时还能教会模型适用于在嘈杂条件下检测异常声音的表示方法。

    Sep, 2023

  • 边际问题：面向说话人识别更具区分性的深度神经网络嵌入

    本研究介绍了三种基于边界的深度说话人嵌入学习损失函数，以实现更优的说话人辨识性能。在 VoxCeleb1 和 SITW 两个公共数据集上的实验证明了该方法比传统的交叉熵损失函数 softmax 具有更优的性能，分别在两个数据集上实现了 25%~30% 的等误差率 (EER) 降低，并分别获得了 2.238% EER 和 2.761% EER 的性能表现。

    Jun, 2019

  • 通过自适应边缘提升视频检索

    本研究提出了一种自适应边界训练机制，称为 CMGSD，通过计算正负实例的距离调整边界，以改善视频检索中的两个问题，即负样本之间的语义联系及性能下降，并利用 CMGSD 的优势在三个广泛使用的数据集上获得更好的性能。

    Mar, 2023