May, 2024

医学图像分类的轻量级神经架构搜索模型

PDF
TL;DR通过基于双层优化的稀疏概率生成方法，Z0-DARTS + 提高了搜索效率，与最先进的解决方案相比，匹配了状态技术的准确性，并将搜索时间缩短了三倍。
medical imagesclassificationdeep learningneural architecture searchzo-darts+
发现论文，激发创造
  • 针对三维医学图像分割的可扩展神经体系结构搜索

    本文提出了一种神经体系结构搜索 (NAS) 框架，用于自动优化大规模设计空间中的神经体系结构，支持 3D 医学图像分割任务，其优化准确度在基准测试数据集上优于人类设计的 3D U-Net，经过优化的体系结构适用于不同的任务。

    Jun, 2019

  • 面向三维医疗图像分割的资源优化神经架构搜索

    本研究提出一种基于强化学习的小样本、低计算力的 NAS 方法，优化了宏搜索空间配置，可用于大规模的 3D 医学图像分割，无需微调、训练时间仅为 1.39 天，性能表现优于手动设计的网络及现有 NAS 方法之最佳结果。

    Sep, 2019

  • 让可微架构搜索更少局部化

    本研究针对 DARTS 的性能崩溃问题，提出采用更全局的优化方案，以更好地探索神经结构搜索空间，从而发现测试性能更佳、参数更少的神经网络架构。

    Apr, 2021

  • Progressive DARTS: 在野外框架中弥合 NAS 的优化差距

    本篇论文提出了一种名为 P-DARTS 的算法来解决神经网络架构搜索中的 transfer learning 问题，并在 CIFAR10 数据集以及几个目标问题（包括 ImageNet 分类，COCO 检测和三个 ReID benchmarks）上实现了更好的性能。

    Dec, 2019

  • sharpDARTS: 更快更准确的可微架构搜索

    借助 Differentiable Architecture Search，本研究提出了 sharpDARTS 搜索方式，该方式在 CIFAR-10 数据集上取得了相对错误率 20-30% 的进展，并在模型大小相似的情况下创下了目前最先进的 1.93% 的验证误差和 25.1% 的 ImageNet top-1 误差，同时，通过 Differentiable Hyperparameter Grid Search 和 HyperCuboid 搜索空间的设计和优化，本研究也证明了 sharpDARTS 更具通用性，提出了 Max-W 正则化以解决 DARTS 在新领域中的泛化问题。

    Mar, 2019

  • 通过近端迭代实现高效神经网络架构搜索

    本文提出了一种基于纵向梯度下降的可微分神经结构搜索方法（称为 NASP），其通过将搜索过程重新构成为一个优化问题，并在前向和反向传播期间仅允许更新一个操作的约束条件下，以 10 倍于 DARTS 方法的计算时间加速获得高性能的架构。

    May, 2019

  • 1000 篇论文中的神经架构搜索 Insights

    过去十年，深度学习的发展在计算机视觉、自然语言理解、语音识别和强化学习等多个领域取得了重大突破。神经架构搜索是自动化机器学习的必然发展方向，已经在很多任务上超过了最好的人类设计架构。本文概述不同的搜索空间、算法和加速技术，并介绍了基准、最佳实践、其他综述和开放源代码库。

    Jan, 2023

  • 使用以前未见的神经架构搜索数据集的洞察

    神经网络、深度学习、神经架构搜索、数据集、NAS 挑战是研究论文的关键词，该论文介绍了为一系列 NAS 挑战创建的八个数据集，以及使用标准深度学习方法和挑战参与者的最佳结果进行的实验。

    Apr, 2024

  • RC-DARTS: 资源受限的可微分架构搜索

    本文提出了资源限制下的可微架构搜索方法 (RC-DARTS)，以较小的模型尺寸和计算复杂度实现与最先进方法相当的性能，并通过对 Cifar10 和 ImageNet 数据集的实验进行了验证。

    Dec, 2019

  • 一次搜索即可：通过直接稀疏优化进行单射神经架构搜索

    该论文提出了一种名为 DSO-NAS 的神经架构搜索方法，采用基于稀疏正则化的模型修剪视角，利用逐步引入稀疏网络的方法来解决搜索空间庞大且不连续的问题，在 CIFAR-10 数据集上达到了 2.84％的平均测试误差，在 ImageNet 数据集上，仅使用 8 块 GPU 600M FLOPs 进行 18 小时的训练可以达到 25.4％的测试误差。

    Nov, 2018