Feb, 2024

GS-EMA: 融合梯度修剪指数移动平均与边界感知对比学习，用于增强动静脉瘤分割的域生成能力

PDF
TL;DR提出了一种新颖的领域泛化策略，采用梯度手术指数移动平均（GS-EMA）优化技术和边界感知对比学习（BACL）相结合的方法，在不同临床数据集中学习领域不变特征，从而改进动脉瘤的鲁棒性和准确性。结果显示，所提出的方法可以提取更多领域不变特征，最小化过度分割，并捕获更完整的动脉瘤结构。
automated segmentationcerebral aneurysmsdomain generalizationgradient surgery exponential moving averageboundary-aware contrastive learning
发现论文，激发创造
  • 谨慎使用手术刀：用 EMA 改进梯度手术

    通过混合梯度，我们提出了一种名称为 Bloop 的方法，该方法用于解决深度学习估计管道中的双层优化问题，并可在自然语言处理和视觉实验中取得比其他梯度手术方法更好的性能。

    Feb, 2024

  • 基于梯度图引导的自适应领域泛化用于跨模态 MRI 分割

    跨模态 MRI 分割是很有价值的计算机辅助医学诊断方法，但现有方法难以处理领域变化的局部差异，并且通常需要大量数据进行训练，这限制了其实际应用。为解决这些问题，我们提出了一种新颖的自适应领域泛化框架，它将基于图像梯度图的无学习跨领域表示与基于类先验的测试时适应策略相结合，以减轻局部领域变化。我们在两个多模态 MRI 数据集上验证了我们的方法，并进行了六个跨模态分割任务。在所有任务设置中，我们的方法始终优于竞争方法，并且在有限的训练数据下表现稳定。

    Nov, 2023

  • 使用生成混合增强和自训练的交叉模态肿瘤分割

    本文介绍了一种用于肿瘤分割的新型深度学习方法，该方法使用了基于图像转换和 Segementation 的迭代自训练算法以及一种名为 GBA（Generative Blending Augmentation）的数据增强技术，使用 SinGAN 生成模型来使目标肿瘤出现得更加真实，从而提高了分割模型的泛化能力，并在 MICCAI CrossMoDA 2022 演示中的肿瘤分割任务中名列前茅。

    Apr, 2023

  • GAN 训练中平均化的非凡有效性

    本文研究了在 GAN 训练中参数平均的两种不同技术：移动平均和指数移动平均。作者提供了 EMA 技术的第一篇理论支持，并通过对许多数据集的实证实验验证了 EMA 和 MA 技术的显著有效性。

    Jun, 2018

  • Switch EMA：提供更好平缓度和锐度的免费午餐

    利用一行修改将 EMA 参数切换到原始模型并揭示了 Switch EMA（SEMA）的充分潜力，该方法能够帮助深度神经网络在平坦性和尖锐性之间取得更好的泛化最优解，并通过基于视觉和语言数据集的比较实验证实了 SEMA 的有效性。

    Feb, 2024

  • 基于高斯伪标签的形态学注意力深度监督在非对比 CT 腹主动脉分割中的应用

    本研究通过引入基于高斯伪标签的 Morphological Attention（MA）技术，将其与传统的深度学习模型相结合，以在非对比度 CT 影像中分割腹主动脉的边界。通过此方法，保留了主动脉的形态特征，减轻了边界模糊性的负面影响，降低了过拟合的风险，并在实验中验证了其有效性。

    Feb, 2024

  • 利用个体图结构提升生态瞬时评估（EMA）预测

    该研究调查了借助回归和时间图神经网络（GNNs）评估和预测生态瞬时评估（EMA）数据的性能，发现 GNNs 能够在增加内部变量关系的图的情况下显著提升结果，将均方误差（MSE）从基准 LSTM 模型的 1.02 降低至 0.84；此外，也探讨了构建具有不同特征的图对 GNN 性能的影响，并发现使用动态优化的 GNN 学习图具有类似良好的性能，因此图学习对其他 GNN 方法也具有潜在的改进作用。

    Mar, 2024

  • 如何扩展您的 EMA

    在存在模型 EMA 的优化中，我们提供了一个缩放规则，并证明其在各种架构、优化器和数据模态下的有效性，同时还展示了模型 EMA 对目标模型优化的贡献，使我们能够在小批量和大批量训练下使用 EMA 基于伪标记和自监督学习的方法，以最佳化 6 倍的壁钟时间降低的条件下训练 BYOL。

    Jul, 2023

  • 基于四分位数估计均值梯度聚合的联邦图像分类基准

    Estimated Mean Aggregation (EMA) 是一种创新解决方案，既能够增强模型安全性，又能够处理数据异质性，从而提高去中心化深度学习在联邦学习中的效率、安全性和多样性。

    Sep, 2023

  • A2V：一种基于半监督领域自适应框架的脑血管分割方法 —— 通过两阶段训练进行血管透视图到静脉呈像的转换

    基于半监督域自适应的脑血管分割方法，通过图像到图像的转换和语义分割，利用一个分离和语义丰富的潜在空间来表示异构数据并在不同模态之间进行图像级别的自适应，实现了高效且稳定的模型训练，并在不同模态下取得了同源领域最佳性能与目标领域 8.9% 的 Dice 值差距，具有可靠的脑血管图像分割潜力。

    Sep, 2023