Jan, 2022

PETS-SWINF：一种考虑图像与元数据的神经网络回归方法，用于 2021 年 Kaggle 竞赛 “PetFinder.my” 中爪子受欢迎程度的预测

PDF
TL;DR通过使用元数据，本研究提出了一种名为 PETS-SWINF 的图像回归模型，该模型可以评估流浪动物的可爱程度，该模型比仅基于图像的模型具有更高的精度。
发现论文，激发创造
  • Swin Transformer 自监督预训练用于三维医学图像分析

    本文介绍了一种自我监督学习框架，使用适合医学图像分析的代理任务，成功地在各种人体器官的公开可用的 CT 图像上预训练模型，并在医学分割基准数据集上进行了微调，实现了最先进的匹配结果。

    Nov, 2021

  • Swin Transformers 自监督学习

    本文介绍了一种名为 MoBY 的自监督学习方法，使用 Vision Transformers 作为基础架构，并进行了在图像分类、目标检测和语义分割等任务中的实验验证。实验结果表明 MoBY 相对于其他基于 DeiT 的方法有更好的性能，有望推动更多 Transformer 架构的自监督学习评估。

    May, 2021

  • 从全局语义到局部显著特征的转变：用于膝骨关节炎严重度评估的 Swin-Transformer

    通过使用 Swin Transformer 以及局部特征表示的改进方法，本研究在骨关节炎等医学影像诊断领域实现了显著的鲁棒性和精度提升。

    Mar, 2024

  • 数字病理学中无旋转偏见的图像表示学习

    本研究提出了三个关键技术贡献，分别为：一种快速的片段选择方法（FPS）用于全切片图像分析，显著降低计算成本同时保持准确性；一种轻量级组织病理特征提取器 PathDino，仅包含五个 Transformer 块和 900 万参数，较其他方法大大减少；一种使用自监督学习的旋转不变表示学习范式，有效减轻过拟合。并且通过在 12 个不同数据集上的评估，证明我们的紧凑模型优于现有的最先进组织病理专用视觉转换器，还验证了其在数字病理学中增强图像分析的鲁棒性。

    Nov, 2023

  • SDNet：使用 Swin 的多分支单图像去雨方法

    本研究提出了一种使用 Swin-transformer 模型实现去雨任务的基本模块改进方法，并设计了一个三分支模型，并提出了一个新的数据集 Rain3000 来验证模型的性能和效果，实验结果表明，该方法在公开数据集 Rain100L，Rain100H 和 Rain3000 上具有先进的性能和较快的推理速度。

    May, 2021

  • SwinFIR：通过快速傅里叶卷积和改进的训练重新审视 SwinIR 并用于图像超分辨率

    本文介绍了一种基于 Transformer 的方法，用于图像恢复，提出了一种名为 SwinFIR 的扩展方法，旨在提高捕捉全局信息的效率，同时改进了数据增强、预训练、特征集成等高级技术，使模型的性能得到显着提高，并在多个大型基准测试上取得了最先进的性能。

    Aug, 2022

  • Swin Transformer 的自监督跨模态预训练

    通过增强 Swin Transformer，我们的模型 SwinFUSE (Swin 多模态融合的无监督增强) 在医学影像领域从不同的影像模态中学习，提升了下游性能，并展现出了对领域变化的适应性以及显著的泛化能力。

    May, 2024

  • VIPriors 图像分类挑战赛技术报告

    本文简要介绍我们参加 VIPriors 图像分类挑战的提交报告。我们使用多个强大的网络和多个损失函数来学习更有代表性的特征。为了提高模型的泛化和鲁棒性，我们还使用了高效的图像增强策略，如 autoaugment 和 cutmix。最终，我们使用集成学习来提高模型性能，我们的团队 DeepBlueAI 在排行榜上排名第二，Top-1 准确率为 0.7015。

    Jul, 2020

  • 自监督特征在医学图像分类任务中的可迁移性如何？

    本文评估了使用三种 Self-Supervised Pretraining 技术 (SimCLR、SwAV 和 DINO) 预训练的特征在医疗分类任务中的转移能力，并证明相对于监督预训练，自监督预训练模型产生了更丰富的嵌入，利于下游任务的线性评估和模型微调。此外，作者介绍了 Dynamic Visual Meta-Embedding (DVME) 作为一种端到端的迁移学习方法，并证明与单一预训练模型相比，使用 DVME 能显著提高所选任务的性能，并且可以推广到任何预训练模型的组合。

    Aug, 2021

  • 数字病理学自监督相似度学习

    提出了一种适用于数字病理学领域的自监督方法，利用同构网络从全切片图像中提取特征来创建稳健和紧凑的图像描述符，其由长度为 128 的特征向量生成，并结合实验结果表明，相比于现有的 ImageNet 和通用的自监督特征提取方法，该方法在图像检索方面具有更好的表现。

    May, 2019