ICMLFeb, 2021

异构数据中的联邦深度 AUC 最大化和通信复杂度为常数

PDF
TL;DR本文主要介绍了改进的 FDAM 算法，通过分布式求解 DAM 的非凸强凹极小极大优化问题，提高了 FDAM 算法在异构数据方面的表现，此外，该算法通信复杂度不随机器数目和精度水平变化而变化。该算法在医学胸部 X 射线影像等多个数据集上得到了有效的应用，可以改善数据来自多个医院的 FDAM 算法，通过胸片检测生命威胁疾病的 AUC 分数。
发现论文，激发创造
  • 联邦组合深度 AUC 最大化

    本研究提出了一种针对非平衡数据的联邦学习方法，通过直接优化曲线下面积（AUC）分数，采用分解最小最大优化问题和随机梯度下降优化算法，以及提供算法的计算和通信复杂性界限，达到了有效性的实验结果。

    Apr, 2023

  • 大规模鲁棒性深度 AUC 最大化：一种新的代理损失函数及在医学图像分类上的实证研究

    通过最大化模型在数据集上的 AUC 分数，Deep AUC Maximization（DAM）成为一种学习深度神经网络的新范例。本文提出了一种基于边缘的最小 - 最大代理损失函数 AUC margin loss，并在医学图像分类任务中实现了更高的性能。

    Dec, 2020

  • 基于深度神经网络的通信高效分布式随机 AUC 最大化

    本文提出了一种基于非凸凹重构的 AUC 最大化的通信高效分布式优化算法，通过减少通信轮次提高了算法的并行性能，并在多个测试数据集中展示了其有效性和可靠性。

    May, 2020

  • 使用深度神经网络进行随机 AUC 最大化

    本研究提出了一种在深度神经网络中进行随机 AUC 最大化的算法，利用了 Polyak-LŁojasiewicz 条件发展了新的随机算法，获得更快的收敛率和更实际的步长方案，通过实验结果证明了算法的有效性。

    Aug, 2019

  • 具有随机池化的可证明多实例深度 AUC 最大化

    本研究基于深度 AUC 最大化技术开发了一种新型的多实例学习算法，通过采用方差缩小的随机池化方法以及非凸极值优化技术，该算法仅采样每个处理对象的一部分进行参数优化，有效解决了计算复杂度高及 GPU 显存不足等问题，实现了对医疗数据集处理的高效分类操作。

    May, 2023

  • AUC-mixup：混合深度 AUC 最大化

    通过混合数据增强技术，即 AUC-mixup 损失，改进了 DAM 在小样本数据集上的推广性能，该方法在不平衡的基准和医学图像数据集上比标准的 DAM 训练方法表现更有效。

    Oct, 2023

  • FedADMM: 适应系统异构性的强大联邦深度学习框架

    本文提出了一种新的 FedADMM 协议用于非凸目标函数下的联邦学习，利用双重变量解决统计异质性，该算法通过扩展 Lagrangian 以保持每轮相同的通信成本和推广 FedAvg/Prox。在真实数据集上的实验结果表明，FedADMM 在减少所需轮数的通信效率方面优于所有基线方法，尤其在大规模系统中其优势更为明显。

    Apr, 2022

  • 随机近端 AUC 最大化

    本文提出了一种新颖的随机近端算法来最大化 ROC 曲线下方区域（AUC），并在各种应用领域的基准数据集上进行了广泛的实验，证明了该算法优于现有的 AUC 最大化算法。

    Jun, 2019

  • 大数据和人工智能时代的 AUC 最大化调查

    本文概述了过去 20 年中与 AUC 最大化相关的文献，不仅提供全面的文献综述，还从公式到算法和理论保证提供了详细的解释和比较，并对深度学习 AUC 最大化的剩余和新兴问题进行了讨论。提供未来工作的建议。

    Mar, 2022

  • 联邦学习中的差分隐私 AUC 计算

    本文提出了一种在联邦学习中使用标签差分隐私的算法，可以准确计算广泛使用的 AUC（曲线下面积）度量，通过大量实验证明我们的算法可以与真实结果准确匹配。

    Aug, 2022