KDDJun, 2022

核心集的辩护：一种密度感知的主动学习核心集选择

PDF
TL;DR通过密度感知和局部敏感哈希等方法，提出了一种基于多样性和难度的主动学习方法 (DACS)，可以通过选择含有更多信息的稀疏区域样本，有效地构建一个有标签的数据集，实验证明其能在分类和回归任务中实现同类最先进的性能。
active learningdiversity-based methoddensity-awarenessdensity approximationneural models
发现论文，激发创造
  • 密度的重要性：活跃领域自适应分割的改进核心集

    活动领域适应作为解决语义分割中昂贵的标注成本和训练模型性能问题的方法已经出现。然而，现有的研究通常忽视了特征空间中所选样本及其局部上下文之间的关联，从而导致标注预算使用效果较差。本项工作重新审视了经典核心集方法的理论界限，并确认性能与所选样本周围的局部样本分布密切相关。为了有效估计局部样本的密度，我们引入了一种带有动态遮罩卷积的局部代理估计器，并开发了一种密度感知贪心算法来优化界限。大量实验证明了我们方法的优越性。此外，仅使用极少的标签，我们的方案实现了与完全监督对照组相当的性能。

    Dec, 2023

  • 卷积神经网络主动学习：一种核心集方法

    采用核心子集选择方法的主动学习算法在图像分类实验中取得显著优于其他算法的效果。

    Aug, 2017

  • 基于聚类的主动学习与多样性探索缓解标注数据不足问题

    该论文提出了一种新的基于聚类的主动学习框架 (ALCS)，其中使用密度聚类方法探索数据的聚类结构，并引入基于双簇边界的样本查询程序以提高高度重叠类别分类的学习性能，此外，我们开发了有效的多样性探索策略来解决样本查询中的冗余问题，实验证明了该方法的有效性。

    Jul, 2022

  • 一种新的批量主动学习方法及其应用于合成孔径雷达数据集

    使用 Dijkstra 的 Annulus Core-Set 和 LocalMax 相结合的批处理主动学习方法，在维持模型准确度的同时提高了效率，应用于 FUSAR-Ship 和 OpenSARShip 数据集的分类，并超越了基于 CNN 的现有方法。

    Jul, 2023

  • DeepCore: 深度学习中数据子集选择的全面库

    本文提出 DeepCore 库，并对目前主要的 coreset 选择方法在 CIFAR10 和 ImageNet 数据集上进行了实证研究，结果表明，虽然各种方法在某些实验设置上具有优势，但随机选择仍然是一个强有力的基准。

    Apr, 2022

  • 通过不确定性估计进行最佳样本选择及其在深度学习中的应用

    通过开发一个新的算法 COPS，我们提出了一个理论上最佳的解决方案，以最小化从样本数据训练的模型的预期损失。我们的方法在深度学习任务中可以有效地应用，通过使用模型的对数几率来估计采样比例，并通过低密度样本的降权方法来解决模型对错误规范的敏感性挑战。实证实验表明，COPS 相对于基线方法具有卓越的性能。

    Sep, 2023

  • 多数据集流上用于多样性近似的可组合核心集

    介绍了一种用于构建可组合核心集合的核心集合构建算法，用于总结用于活动学习环境的流数据，结合技术如 CRAIG 和启发式方法以增强构建速度，可以在大数据传感器数据量较大时实时训练模型。通过考虑外推数据进行这种蛮力算法的运行时间性能经验分析，并通过平均经验回归进行效率分析，提出了关键结果和改进方向以便进一步研究该主题。

    Aug, 2023

  • 细粒度自监督学习的开集核心集采样

    本研究介绍了一种基于自我监督学习的算法 SimCore，它可以通过使用无标签的大规模数据集来提高深度学习模型的表征学习性能，从而应用于精细的任务，解决现实世界中需要专家知识进行注释的难题。

    Mar, 2023

  • 用于高效数据处理的自适应二阶子集算法

    提出 AdaCore 方法，该方法利用数据的几何形状，用指数平均估计的 Hessian 近似曲率，选择加权的子集，提供与使用完整数据的梯度预处理的负梯度近似，实现高效的机器学习训练，并对其给出理论支持和证明，相比基线提取的 coresets 质量更高，速度快 2.9 倍以上。

    Jul, 2022

  • 少样本学习：计算机视觉统一数据子集选择与主动学习框架

    本文介绍一种使用多样性模型的训练数据子集选择方法，该方法可提高计算机视觉任务的准确性并减少标注成本。

    Jan, 2019