May, 2023

具有随机池化的可证明多实例深度 AUC 最大化

PDF
TL;DR本研究基于深度 AUC 最大化技术开发了一种新型的多实例学习算法，通过采用方差缩小的随机池化方法以及非凸极值优化技术，该算法仅采样每个处理对象的一部分进行参数优化，有效解决了计算复杂度高及 GPU 显存不足等问题，实现了对医疗数据集处理的高效分类操作。
deep auc maximizationmulti-instance learningvariation-reduced stochastic poolingnon-convex min-max optimizationmedical datasets
发现论文，激发创造
  • 使用深度神经网络进行随机 AUC 最大化

    本研究提出了一种在深度神经网络中进行随机 AUC 最大化的算法，利用了 Polyak-LŁojasiewicz 条件发展了新的随机算法，获得更快的收敛率和更实际的步长方案，通过实验结果证明了算法的有效性。

    Aug, 2019

  • 大规模鲁棒性深度 AUC 最大化：一种新的代理损失函数及在医学图像分类上的实证研究

    通过最大化模型在数据集上的 AUC 分数，Deep AUC Maximization（DAM）成为一种学习深度神经网络的新范例。本文提出了一种基于边缘的最小 - 最大代理损失函数 AUC margin loss，并在医学图像分类任务中实现了更高的性能。

    Dec, 2020

  • 异构数据中的联邦深度 AUC 最大化和通信复杂度为常数

    本文主要介绍了改进的 FDAM 算法，通过分布式求解 DAM 的非凸强凹极小极大优化问题，提高了 FDAM 算法在异构数据方面的表现，此外，该算法通信复杂度不随机器数目和精度水平变化而变化。该算法在医学胸部 X 射线影像等多个数据集上得到了有效的应用，可以改善数据来自多个医院的 FDAM 算法，通过胸片检测生命威胁疾病的 AUC 分数。

    Feb, 2021

  • 基于深度神经网络的通信高效分布式随机 AUC 最大化

    本文提出了一种基于非凸凹重构的 AUC 最大化的通信高效分布式优化算法，通过减少通信轮次提高了算法的并行性能，并在多个测试数据集中展示了其有效性和可靠性。

    May, 2020

  • AUC-mixup：混合深度 AUC 最大化

    通过混合数据增强技术，即 AUC-mixup 损失，改进了 DAM 在小样本数据集上的推广性能，该方法在不平衡的基准和医学图像数据集上比标准的 DAM 训练方法表现更有效。

    Oct, 2023

  • 随机近端 AUC 最大化

    本文提出了一种新颖的随机近端算法来最大化 ROC 曲线下方区域（AUC），并在各种应用领域的基准数据集上进行了广泛的实验，证明了该算法优于现有的 AUC 最大化算法。

    Jun, 2019

  • 应用于多任务深度 AUC 最大化的多块最小 - 最大二级优化

    本文探讨了多块最小最大双层优化问题，提出了一种单循环随机算法，其样本复杂性为 O（1/ϵ^4），应用于多任务深度 AUC 最大化和多任务深度局部 AUC 最大化。

    Jun, 2022

  • 平衡偏倚和方差的主动弱监督学习

    提出了一个新颖的主动式深度多实例学习方法，该方法采样少量信息实例进行注释，旨在显著提高实例级预测。通过设计方差正则化损失函数来平衡实例级别预测的偏差和方差，以便有效控制多实例学习中高度不平衡的实例分布及其他基本挑战，并通过分布鲁棒的袋级似然作为其凸替代，使得其能够平衡偏差和方差，通过强大的理论保证提供方差基于 MIL 损失的良好近似。然后，将该鲁棒性袋似然与深度体系结构自然集成，以支持使用正负袋对的小批量进行深度模型训练。最后，开发了一个结合概率向量和预测实例得分的新型 P-F 采样函数，可以探索最具挑战性的袋并有效地检测其正实例进行注释，从而显著改进实例级预测。多个真实世界数据集上的实验清楚地证明了该模型所达到的最先进实例级预测性能。

    Jun, 2022

  • 深度卷积神经网络的随机池化正则化

    本文介绍一种基于随机过程和多项分布替代传统确定性池化操作的正则化卷积神经网络方法，并证明其能够与其他正则化方法相结合，如辍学和数据增强，实现更好的图像分类表现。

    Jan, 2013

  • 联邦组合深度 AUC 最大化

    本研究提出了一种针对非平衡数据的联邦学习方法，通过直接优化曲线下面积（AUC）分数，采用分解最小最大优化问题和随机梯度下降优化算法，以及提供算法的计算和通信复杂性界限，达到了有效性的实验结果。

    Apr, 2023