May, 2023

数据集压缩是否是医疗数据共享的万能药方？

PDF
TL;DR本研究研究了数据集压缩（DC）在 AI 研究中分享保健数据的前景，并取得了有希望的结果，数据集压缩通过压缩容量和加速模型收敛，既实现了正确的去隐私化，又保留了原始的深度学习功能，同时保护数据隐私并加速模型收敛，DC 为多项愿望的保健数据共享开启了新的大门。
发现论文，激发创造
  • 免费提供隐私：数据集压缩如何帮助隐私？

    本文首次发现，原本用于提高训练效率的数据集压缩技术 (dataset condensation, DC)，在数据隐私保护方面也是替代传统数据生成器的更好解决方案。我们提出了在 DC 中提供隐私保护，并理论上证明 DC 合成的 $m$ 个样本在参数分布上对网络的影响有限 ($O (m/n)$)，同时通过试验证明 DCsynthesized 数据的可视隐私和成员隐私。本文的创新之处在于：通过数据压缩实现了数据高效性与隐私保护的双赢。

    Jun, 2022

  • DC-BENCH：数据集压缩基准测试

    本研究提供了首个大规模的 Dataset Condensation 标准化基准，通过其生成的数据集全面反映了浓缩方法的通用性和有效性，并报告了许多有见地的发现，为未来的发展开辟了新的可能性。

    Jul, 2022

  • 基于软标签数据蒸馏的胃部图像压缩生成，用于医疗数据共享

    提出了一种新颖的软标签数据集蒸馏方法，用于医疗数据共享，并且可以提取 DCNN 模型的重要权重，以减少训练模型所需的内存，从而将数万张图像压缩为几张柔性标记图像。结果表明，该方法可以提高医疗数据共享的效率和安全性。

    Sep, 2022

  • 高效深度哈希检索：通过特征嵌入匹配压缩数据

    本文提出了一种有效的压缩框架，该框架通过匹配合成集和真实集之间的特征嵌入来增强特征的多样性，并结合早期增强模型和多形态的策略，显著提高了性能和效率，比现有的基准方法都要优越。

    May, 2023

  • 利用层次特征共享优化数据集压缩

    本篇研究提出了一种新的数据参数化架构，分层记忆网络（Hierarchical Memory Network），用于在图像分类中对数据进行压缩和信息共享，实验结果表明该方法在多个公共数据集上超过了当前的基线方法，且在 GPU 内存占用较少的情况下仍能取得良好的性能。

    Oct, 2023

  • 揭示数据集精简的设计空间

    通过设计一个综合的框架，实现了软分类感知匹配和调整学习速率的策略，从而在小型和大型数据集压缩上建立了基准，显著提高了模型训练效率。

    Apr, 2024

  • 医疗数据共享的数据集精简技术

    本文提出了一种基于数据集精简的医疗数据共享方法，实验结果表明，即使使用匿名的胸部 X 光图像，我们的方法也可以实现高的检测性能。

    Sep, 2022

  • 压缩数据集下对抗训练的有效性研究

    通过在数据集中找到最小有限覆盖（MFC）的方法，提出了一种新的考虑鲁棒性的数据集压缩方法，用于提高数据集压缩效率和对抗性鲁棒性，并证明其在三个数据集上具有更好的鲁棒性和性能平衡。

    Feb, 2024

  • 加速超参数搜索的数据集压缩

    本文提出了一种针对超参数搜索的新型超参数校准数据集压缩（HCDC）算法，通过匹配通过隐式微分和高效逆 Hessian 逼近计算的超参数梯度来生成合成的验证数据集，实验证明该框架有效地维持了模型的验证性能排名，并加速了基于图像和图形的超参数 / 架构搜索任务。

    May, 2024

  • 数据集压缩与分布匹配

    本研究提出了一种简单而有效的方法，通过在多个采样嵌入空间中匹配合成图像和原始训练图像的特征分布，综合减少了合成成本，同时实现了可比较或更好的性能，具有在实际大型数据集中应用以及在连续学习和神经结构搜索中表现出有希望的实际好处的潜力。

    Oct, 2021