hardware acceleration | BriefGPT

关键词hardware acceleration

搜索结果 - 23

基于连接的 CNN 架构的迭代滤波剪枝
基于模型压缩和硬件加速，本研究通过剪枝方法对高度互联的卷积层的连接汇如 YOLOv7 中进行处理，并通过迭代敏感度分析、剪枝和模型微调，显著减少了模型大小，同时保持了可比较的模型准确性。最终将剪枝模型部署到 FPGA 和 NVIDIA Je
PDF2 months ago
视觉 Transformer 模型量化和硬件加速：综述
Vision Transformers（ViTs）的模型量化和硬件加速方面进行了综合调查，探讨了 ViTs 的独特架构特性、运行时特性、模型量化的基本原则，以及用于 ViTs 的最新量化技术的比较分析。此外，还探索了量化 ViTs 的硬件加
PDF2 months ago
面向资源受限环境的轻量级深度学习综述
在过去的十年中，深度学习在自然语言处理、计算机视觉和生物医学信号处理等各个人工智能领域中占据主导地位。虽然模型的准确性有了显著提高，但将这些模型部署在移动手机和微控制器等轻量设备上受到资源限制的制约。本调查报告针对这些设备提供全面的设计指导
PDF3 months ago
JaxUED：一个简单易用的 Jax UED 库
JaxUED 是一个开源库，提供现代无监督环境设计算法的最小依赖实现。JaxUED 利用硬件加速获得与基于 CPU 的实现相比高达 100 倍的加速。本文描述了我们的库并包含了基准结果。
PDF3 months ago
无人机网络实时野火检测的硬件加速
本研究旨在开发一种实时图像分类和火灾分割模型，通过对 Jetson Nano P3450 的硬件加速以及 TensorRT 的影响进行综合研究，以在无人机 (UAV) 的计算和能量约束下提高火灾分类的准确性和速度。结果显示与无硬件优化模型相
PDF5 months ago
神经渲染及其硬件加速：综述
神经渲染是一种基于深度学习的新型图像和视频生成方法，将深度学习模型与计算机图形学的物理知识相结合，以获得可控和逼真的场景模型，并实现对光照、相机参数、姿态等场景属性的控制。本文回顾了神经渲染的技术内涵、主要挑战和研究进展，在此基础上分析了神
PDF6 months ago
加速器驱动的数据排列在多核架构上最小化变压器运行时间
提出了一种新颖的内存数据排列策略，通过硬件加速器的内核大小来有效减小芯片外数据访问，特别对于基于广义矩阵乘法（GEMM）的终端到终端变压器模型推理尤为有益。本研究通过在单核和多核系统中实现和评估提出的加速器驱动的数据排列方法，证明了该方法能
PDF6 months ago
使用遗传算法改进 CNN 加速器的层间流水线
通过图形排序的遗传算法，我们开发了一种针对卷积神经网络的层融合技术，减少了边缘平台上的数据传输，从而提高了能效和能延迟乘积（EDP），在类似 SIMBA 移动架构上的 MobileNet-v3 中实现了 1.8 倍的能效提升和 1.9 倍的
PDF7 months ago
NeuroEvoBench：用于深度学习应用的进化优化器基准测试
最近，深度学习社区对进化优化（EO）产生了兴趣，其作为解决难以优化问题的手段，例如，通过长内循环展开进行元学习或优化非可微分运算符。这一趋势的一个核心原因是硬件加速和兼容软件的最新创新 - 使得分布式种群评估比以前更容易。然而，与基于梯度下
PDF8 months ago
通过架构、编译器、分区方法共同设计加速通用图神经网络
本文介绍了一种名为 SwitchBlade 的框架，通过新型分区级操作融合、分区级多线程和细粒度图分区等方法，实现了对图神经网络的高性能和高效能加速，相较于 NVIDIA V100 GPU，SwitchBlade 平均速度提升 1.85 倍
PDF10 months ago
面向向量搜索的硬件和算法协同设计
介绍了一种基于 FPGA 的可扩展矢量搜索框架 FANNS，通过自动协同设计硬件和算法来生成相应的加速器，以在数据中心和 AI 超算中实现未来的 FPGA 集成。
PDFa year ago
MutateNN: 硬件加速器上部署的图像识别模型的突变测试
本研究提出了 MutateNN 工具，支持深度学习图像识别模型在不同硬件加速设备上进行变异测试和分析，以便于开发者和研究者探索模型的稳健性。通过在不同设备上部署 21 种变异并观察其性能，研究者们发现有些变异和算术类型有关的还不够稳定。
PDFa year ago
可解释人工智能的硬件加速
本研究提出一种简单且高效的框架，通过存在的硬件加速器来加速各种 XAI 算法，并探索了 Tensor Processing Unit（TPU）加速 XAI 的有效性，利用卷积和傅里叶变换之间的协同关系，充分利用 TPU 在加速矩阵计算方面的
PDFa year ago
自动驾驶中基于 Transformer 模型和硬件加速的分析：综述
系统概述了针对自动驾驶领域的 Transformer 模型，分析了编码器解码器和仅编码器模型的优缺点，并深入探讨了量化和运行时等关键因素对 Transformer 操作符及其硬件加速的影响，同时在卷积神经网络、Swin-Transforme
PDFa year ago
I-GCN: 通过孤岛化实现运行时局部性增强的图卷积网络加速器
本文提出了一种新的硬件加速器 I-GCN，采用在线图重构算法 Islandization，通过处理岛屿而不是单个节点，从而显著提高了数据局部性和减少了不必要的计算。I-GCN 可以减少 38% 的聚合操作，性能速度普遍快于 CPU、GPU
PDF2 years ago
通过大规模并行加速质量多样性
本文介绍了 QDax 算法，该算法通过使用大规模的加速器并行特性优化 Quality-Diversity (QD) 算法，使得 QD 算法可以在交互式时间尺度下扩展，能够大规模地加速解决方案生成过程，并通过对四种不同环境的测试分析表明，实验
PDF2 years ago
PyTorchVideo: 视频理解的深度学习库
介绍了 PyTorchVideo 开源深度学习库，提供丰富的模块化、高效和可重现的组件，用于各种视频理解任务，并支持硬件加速，可在移动设备上进行实时推理。
PDF3 years ago
Procrustes：用于稀疏深度神经网络训练的数据流和加速器
本文研究了适用于稀疏权重和激活张量的能源高效型深度神经网络 (DNN) 修剪算法，并提出了一种稀疏 DNN 训练加速器，可以在不牺牲精度的情况下消耗更少的能源和获得更快的速度。该研究表明，加速稀疏训练需要一种协同设计方法，其中算法被适应到硬
PDF4 years ago
基于硬件的混合精度量化自动机器学习
本文提出了一种基于深度强化学习的硬件感知自动量化框架 (HAQ)，旨在为不同的神经网络体系结构和硬件体系结构确定最佳的量化策略，以提高计算效率并在保持准确性的前提下减少延迟和能耗。在硬件仿真器的帮助下，该框架的有效性已得到证明。
PDF4 years ago
AI 基准测试：在 Android 智能手机上运行深度神经网络
本文研究了 Android 生态系统中深度学习的现状及其在智能手机上的限制，同时概述了四个主要移动芯片平台（Qualcomm、HiSilicon、MediaTek 和 Samsung）上可用的硬件加速资源，并介绍了利用 AI 基准测试收集的
PDF6 years ago