Feb, 2021

Apollo: 可迁移的架构探索

PDF
TL;DR本文提出了一种可转移的架构探索框架 Apollo，用于优化具有不同设计约束（如面积和 / 或延迟预算）或神经架构配置的多样化的神经架构加速器配置，通过知识迁移，它能更加高效地找到最优配置并实现更好的加速。
accelerator designneural architecturesoptimizationsample efficiencyknowledge transfer
发现论文，激发创造
  • 重新思考神经网络结构与硬件加速器的共同设计

    本研究系统研究了协同设计神经网络架构和硬件加速器的重要性和策略，发现不同的使用场景会导致非常不同的搜索结果，研究表明联合搜索方法在所有延迟目标上始终优于以前的面向平台的神经体系结构搜索、手动设计的模型和最先进的 EfficientNet，可将边缘加速器的能源消耗降低高达 2 倍。

    Feb, 2021

  • 神经加速器的硬件 / 软件学习式协同设计

    本文提出一种基于硬件 / 软件协同设计的新的约束贝叶斯优化框架，可以自动识别联合设计空间中的优化点，应用于各种神经模型，改善能量延迟产品的性能。

    Oct, 2020

  • DeepAxe：一种用于探索 DNN 加速器中近似和可靠性权衡的框架

    本文提出了一个基于 FPGA 的 DNN 加速器设计框架 DeepAxe, 考虑了准确性、可靠性和硬件性能之间的平衡，通过功能逼近来减少硬件平台的计算负担，为目标资源利用要求提供了一组 Pareto 最优的 DNN 实现设计空间点。

    Mar, 2023

  • 神经结构的硬件 / 软件协同探索

    该研究提出了一种新颖的硬件和软件协同探索框架，用于高效的神经架构搜索。该框架同时探索体系结构搜索空间和硬件设计空间，旨在找到最佳的神经架构和硬件配置，以同时达到最大的测试精度和硬件效率。该方法通过强化学习控制器，可以在 ImageNet 数据集上实现比现有技术更高的吞吐量、节能和搜索效率

    Jul, 2019

  • 神经网络结构和异质 ASIC 加速器设计的共同探索，针对多任务的目标

    该论文提出了一种名为 NASAIC 的框架来同时确定多个 DNN 架构和相关的异构 ASIC 加速器设计，以满足设计规范并最大限度地提高准确性。

    Feb, 2020

  • 通过网络转换实现高效架构搜索

    本文提出了一种基于深度神经网络的自动化设计架构的新框架，该框架使用强化学习代理作为元控制器，通过功能保持变换在当前网络的基础上，尝试增加网络深度或层宽。在 CIFAR-10 和 SVHN 基准数据集上的测试表明，该方法在受限的计算资源下可以设计出具有高竞争力的网络，并在不使用跨层连接的条件下实现了 4.23％的测试误差率。

    Jul, 2017

  • DANCE: 可微加速器 / 网络共同探索

    本文介绍了 DANCE，它是一种不同 iable 方法，用于硬件加速设计和网络架构设计的共同探索，与现有方法相比，其可以在更短的时间内实现更优秀的准确性和硬件成本度量。

    Sep, 2020

  • 神经架构优化

    本论文提出了一种基于连续优化的自动神经架构设计方法，使用编码器、预测器和解码器组成的方法在连续空间中进行梯度优化，通过将较好的嵌入解码成新的架构，最终实现在 CIFAR-10 和 PTB 数据集上高效发现神经网络，并与之前的方法相比实现了较好的效果。

    Aug, 2018

  • 关于资源受限硬件平台的神经架构搜索

    提出了一种新的框架，用于在限制条件下寻找最优的量化神经架构并实现在给定的硬件规格上，该框架使用 FPGAs 来实现和测试设计并在 CIFAR10 任务中提高了 18％至 68％的准确性。

    Oct, 2019

  • DEAP：DNN 加速器并行性的设计空间探索

    这篇论文展示了硬件和软件的协同设计如何为特定的大型语言模型工作负载创建定制的硬件系统，通过模型并行技术和多加速器仿真框架实现效率度量，重点关注推理工作负载并报告多种软硬件配置下的功耗、周期和延迟度量。

    Dec, 2023