Jan, 2023

寻找最具转移潜力的脑图像分割任务

PDF
TL;DR本文提出了一种基于先验知识和可转移性的框架来选择最好的源任务，在收集到的多个脑图像分割任务中进行选择，以提高给定目标任务的转移学习性能。在脑物质、脑肿瘤和白质高信号异常分割数据集上进行的实验表明，从相同模态下的不同任务转移通常比从不同模态下的同一任务转移更成功。此外，在相同模态下，从具有与目标任务更强的 RoI 形状相似性的源任务转移可以显着提高最终的转移性能，并且可以使用标签空间中的结构相似度指数来捕获这种相似性。
发现论文，激发创造
  • 选择最佳预训练模型：面向医学图像分割的可迁移性估计

    我们在这篇论文中针对医学图像分割中应用迁移学习时的不足，提出了一种新的迁移能力估计方法，该方法考虑了类一致性和特征多样性，通过大量实验证明，在医学图像分割中我们的方法超过了所有现有的迁移能力估计算法。

    Jul, 2023

  • 基于迁移学习的脑部损伤分割元分析

    本文提出了一种基于深度学习技术的脑卒中损伤分割方法，旨在实现损伤扩展和影响的客观测量，以预测神经功能损害和康复潜力。该方法可以高效、自动地进行分割，并同时提供损伤体积和对大脑结构的加权损伤量量化。

    Jun, 2023

  • 选择源模型集的可迁移度指标

    本研究提出使用可计算的传递性度量来预测目标数据集上表现最佳的模型组，从包括 17 个来源数据集、两种不同架构和两种预训练方案在内的大规模源模型池中自动选择模型，在语义分割任务中通过与两个基准模型的比较，实现平均交并比相对提高 6.0% 和 2.5%。

    Nov, 2021

  • 任务迁移学习中可迁移性的信息论方法

    本文提出了一个评估跨任务表示学习有效性的 H-score 度量方式，可以对在分类问题中从一个任务传递到另一个任务的表示的性能进行评估。使用实际图像数据进行的实验表明，该评价标准不仅与经验传递度量一致，而且在源模型选择和任务转移课程学习等应用中也非常有用。

    Dec, 2022

  • 迁移性指标的表现在医学任务中不可靠

    通过对三个医学应用进行深入评估，我们的研究表明没有任何可靠和一致的迁移性评分能够准确估计医学环境下的目标性能，这为进一步研究指明了方向。

    Aug, 2023

  • 构建一支强大的团队：使用次模传递可计估方法选择源模型集合

    提出了一种用于评估模型集合对下游任务的可转移性的新方法 OSBORN，能够综合考虑图像领域差异、任务差异和模型集合的内聚性，相较于现有指标 MS-LEEP 和 E-LEEP，该方法在图像分类和语义分割任务中表现出更好的性能。

    Sep, 2023

  • 利用迁移学习解码反映认知任务间关系的脑状态

    本研究提出了一种转移学习框架来反映认知任务之间的关系，并比较了转移学习和脑区重叠（例如 neurosynth）反映的任务关系。研究结果表明，如果源任务和目标认知任务激活相似的脑区，则转移学习在 fMRI 数据的任务解码方面表现更好。此研究揭示了多个认知任务之间的关系，并为基于小样本数据的神经解码中的源任务选择提供了指导。

    Jun, 2022

  • 解放任务无关数据潜力的源自由跨模态知识转移

    提出了一种利用配对的非任务相关数据进行增强源无关跨模态知识转移的新颖且简洁的框架，采用任务 - 无关数据引导模态连接模块（TGMB）和任务 - 无关数据引导知识转移模块（TGKT）来实现从源模型到目标模型的知识转移，并结合自监督伪标签方法提升目标模型的学习效果。

    Jan, 2024

  • 基于属性映射的深度模型可迁移性

    本文提出了一个简单而高效的方法来估计深度神经网络的迁移能力，该方法通过将深度神经网络投影到一个模型空间中，其中每个网络被视为一个点，这些点之间的距离通过它们产生的归因图的偏差来衡量。该方法比 Taskonomy 快数倍，同时保留了 Taskonomy 获得的与任务相关的拓扑结构。

    Sep, 2019

  • 跨多样化外观领域和任务类型的迁移学习影响因素

    本文通过对多种不同的图像领域和任务类型进行超过 2000 个转移学习实验，并系统地分析其对转移学习性能的影响，得出了以下几点结论：（1）对于大多数任务，存在一种源任务显著优于 ILSVRC'12 预训练；（2）图像领域是实现积极转移的最重要因素；（3）源数据集应包括目标数据集的图像领域以获得最佳结果；（4）同时，当源任务的图像领域比目标任务的图像领域范围更广时，我们观察到的负面影响很小；（5）跨任务类型的转移可能会有益，但其成功与源任务和目标任务类型密切相关。

    Mar, 2021