Nov, 2023

使用动态样本丢弃与层次优化相结合的方法改善语音分离中的标签分配学习

PDF
TL;DR在受监督语音分离中，我们提出了一种新的训练策略，动态样本丢失（DSD），它考虑了先前的最佳标签分配和评估指标，以排除在训练期间可能对学习到的标签分配产生负面影响的样本，并且通过层解耦方法（LO）来解决层解耦问题，结果表明，结合 DSD 和 LO 的方法优于基准方法，解决了过多的标签分配变换和层解耦问题，该方法易于实现，无需额外的训练集或步骤，并且适用于各种语音分离任务。
supervised speech separationpermutation invariant trainingdynamic sample dropoutlayer-wise optimizationlabel assignment switching
发现论文，激发创造
  • 面向说话人不可知的多人语音分离的深度模型置换不变训练

    本研究提出了一种新的深度学习模型，用于解决语音分离的 Cocktail-party 问题，它支持排列不变训练（PIT），实验表明 PIT 的有效性可以解决语音分离中的标签置换问题，从而实现自动会议记录和多方人机交互等的应用。

    Jul, 2016

  • LOPS: 基于学习顺序灵感的弱监督文本分类伪标签选择

    基于学习顺序的 LOPS 算法优化了基于伪标签的弱监督文本分类方法，通过选择先学的伪标签对模型进行训练，提高模型性能。

    May, 2022

  • 通过双流样本蒸馏实现鲁棒性噪声标签学习

    通过设计名为 Two-Stream Sample Distillation（TSSD）的简单而有效的样本选择框架，来提取更多高质量具有干净标签的样本，改进网络训练的鲁棒性。实验证明，我们的方法在四个基准数据集上取得了与竞争对手相比的最先进结果。

    Apr, 2024

  • 基于标签比例学习的两阶段训练

    该论文研究了从标签比例中学习的问题，针对现有基于深度学习的方法中优化目标与给定比例不一致的问题，通过对分类器施加比例验证的连续训练阶段以及引入混合策略和 Symmetric Crossentropy 方法来降低标签噪声，提高了分类性能。

    May, 2021

  • 改进开放词汇目标检测的伪标签

    通过在线自训练和分割融合头以减少预训练视觉语言模型生成的噪声伪标签并提高开放词汇目标检测性能。

    Aug, 2023

  • 通过分布式鲁棒性优化应对标签漂移

    本论文提出了一种基于分布鲁棒优化的模型，通过设计并分析梯度下降 - 近端镜像上升算法，用一次训练获得一个对多种标签偏移都具有稳健性的单一分类器，并在 CIFAR-100 和 ImageNet 上的实验中展示出其显著的性能提高。

    Oct, 2020

  • DiPS: 自监督变换器鉴别性伪标签采样用于弱监督目标定位

    引入了判别伪标签采样（DiPS）来利用无监督模型生成的类别无关地图进行弱监督目标定位（WSOL），并设计了基于 Transformer 的 WSOL 模型，使用 DiPS 生成的伪标签进行分类和定位任务训练，实验结果表明该架构与 Transformer 的建议相结合可以比现有方法获得更好的定位性能。

    Oct, 2023

  • 学习主导性的序列输出训练

    通过在注意力编码器 - 解码器架构中引入辅助模块，自动识别多讲话者语音输出序列的关键因素，本研究提出了一种基于模型的串行化策略。实验结果表明，在 LibriSpeech 和 LibriMix 数据库上，我们的方法在 2 个混合和 3 个混合情况下显著超越了 PIT 和 FIFO 基准。进一步分析显示，串行化模块通过音量和性别等因素识别混合中的主要语音成分，并根据优先级得分对语音成分进行排序。

    Jul, 2024

  • 基于噪声率估计的样本选择噪声标签学习

    提出一种能够有效提高 SOTA noisy-label learning 方法性能的新噪声标签学习图模型，该模型能够准确估计噪声率并用于训练过程的样本选择阶段。

    May, 2023

  • 多类别标签噪声下的自我蒸馏和部分标签学习的理解

    自蒸馏是使用教师模型的输出来训练学生模型的过程，本研究在多类别分类中从理论上探讨了自蒸馏，研究了多轮自蒸馏和使用精炼教师输出的自蒸馏，其灵感源于部分标签学习（PLL）。我们通过为学生模型的输出推导出一个封闭形式解，发现自蒸馏在具有高特征相关性的实例中起到标签平均化的作用。这种平均化有助于模型关注与给定实例相关的特征聚类以预测标签，但在蒸馏轮次增多时会导致性能衰减。此外，我们证明了自蒸馏在标签噪声情景中的有效性，并确定了达到 100% 分类准确率所需的标签污染条件和最小蒸馏轮次。我们的研究还揭示了在高噪声率条件下，一步精炼教师输出的蒸馏超过了使用教师直接输出的多步自蒸馏的效果。

    Feb, 2024