Oct, 2023

CAMELL：基于置信度的高效自监督主动学习与标签验证模型

PDF
TL;DRCAMELL 是一种面向序列多输出问题的基于置信度的快速自我教育主动学习框架，通过仅令专家注释选定序列的一部分并利用自我监督和标签验证机制，提高了数据集的质量和模型性能。
supervised neural approachesself-supervised active learninglabel validation mechanismsequential tasksdialogue belief tracking
发现论文，激发创造
  • 经济有效的在线上下文模型选择

    本研究提出了一种上下文活动模型选择算法（CAMS），基于给定策略类的一种新型的不确定性采样查询标准，实现了自适应模型选择任务，相比其他算法可以大幅度降低标记成本，实验证明该算法在多个基准分类数据集上具有效果优异的指标表现。

    Jul, 2022

  • 克服自信心以实现主动学习

    该研究提出了两种新颖的方法来解决主动学习场景中出现的过度自信问题，一种是名为 Cross-Mix-and-Mix（CMaM）的数据扩增策略，旨在通过扩展有限的训练分布来校准模型；另一种是名为 Ranked Margin Sampling（RankedMS）的数据选择策略，以防止选择导致过度自信预测的数据。通过各种实验和分析，我们能够证明我们的提议通过缓解过度自信，促进了有效的数据选择。

    Aug, 2023

  • 主动半监督表示学习的语义分割

    本文提出一种新算法，将半监督和主动学习相结合，通过用少量的有标签数据来训练分割算法。我们通过用自我训练方法替换半监督学习的平均教师方法，以处理带有噪声的标签，进一步增强神经网络的能力来查询有用的数据，从而实现了超越现有半监督方法的性能。在 CamVid 和 CityScapes 数据集上评估我们的方法，仅使用了 12.1% 和 15.1% 的标签数据，分别实现了 95% 以上的准确率。

    Oct, 2022

  • CAMEL: 组织病理学图像半监督学习分割框架

    本研究提出了 CAMEL，这是一种基于弱监督学习的组织病理学图像分割框架，可以仅使用图像级标签来自动生成像素级标签和进行全监督培训。CAMEL 在 CAMELYON16 和结肠腺瘤数据集上实现了与完全监督方法相当的性能，而其自动标注方法的普适性可望造福未来的弱监督学习研究.

    Aug, 2019

  • 上下文感知选择性标签平滑以校准序列识别模型

    本文提出了一种基于上下文的选择性标签平滑方法（CASLS），以解决训练过程中的过度拟合问题以及置信度校准问题，通过利用顺序数据中的上下文依赖性来构造混淆矩阵，并使用类特定错误率来调整平滑强度的权重，从而实现自适应校准。在场景文本识别和语音识别等序列识别任务上的实验结果表明，本文所提出的方法可以实现最先进的性能。

    Mar, 2023

  • 基于众包的序列标注中的顺序标注建模

    本文提出了一种用众包实现数据序列标注的方法 ——SA-SLC，采用了条件概率模型和可靠性估计等技术优化标注结果，实验结果表明该方法是有效的。

    Sep, 2022

  • CAME：对比自动模型评估

    提出了基于对比学习的自动模型评估（CAME）框架，通过在未标记 / 未见测试集上进行推导，建立了模型性能与对比损失之间的可预测关系，从而克服了现有自动模型评估方法中依赖训练集的问题，并在性能上显著超越了之前的工作。

    Aug, 2023

  • U-CAM: 基于不确定性的类激活映射的可视化解释

    本研究针对深度学习模型的解释提出了一种方法，通过梯度获取与误分类样本更相关的确信度估计和提供视觉注意力图，特别是在视觉问答任务中，该方法采用现代概率深度学习方法，并进一步通过这些估计梯度进行改进，得到具有人类注意区域相关性的先进的注意力图，从而提供了更好的解释能力。我们在所有标准基准测试上提供了详细的实证分析和与现有方法的比较。

    Aug, 2019

  • 基于 Mean Teacher 的图像描述生成学习 (CaMEL)

    本文介绍了一种基于 Transformer 的图像描述模型 ——CaMEL，其包含两个相互连接的语言模型，采用知识蒸馏的均值教师学习方法，采用不同视觉特征提取器进行评估，结果表明该模型在 COCO 数据集上取得了最先进的结果。

    Feb, 2022

  • 半监督医学图像分割的相关感知互学习

    本文提出了一种全新的互相关注意力的半监督学习方法，该方法结合标签数据和未标签数据的特点，在医学图像分割任务中实现了更好的表现。

    Jul, 2023