fpgas | BriefGPT - AI 论文速递

关键词fpgas

搜索结果 - 38

PEANO-ViT：在视觉转换器中对非线性的功耗有效近似
PEANO-ViT 通过引入无除法技术简化了层归一化层的实现，同时提供了多尺度除法策略以消除 softmax 层的除法操作，并通过分段线性逼近来绕过与 GELU 相关的计算密集型操作，从而在减少 DSP、LUT 和寄存器数量的同时，实现了
PDF11 days ago
拖延就足够的：指数指标累加器用于浮点数、Posit 和对数数值
该论文讨论了一种简单有效的方法，用于对长序列的浮点数进行求和。该方法包括两个阶段：累积阶段，其中浮点数的尾数添加到由指数索引的累加器中，重构阶段，将最终的求和结果完成。对于 FPGAs 和 ASICs，给出了各种体系结构细节，包括将操作与乘
PDF23 days ago
MM多项式 LUT-Add：基于 FPGA 的宽输入 LUT 推理
通过引入 PolyLUT-Add 技术，结合多个 PolyLUT 子神经元进行相加以提高准确性，并描述了一个提高可扩展性的新型架构，实验结果表明，在相似准确度的情况下，PolyLUT-Add 相比传统方法能够减少 1.3-7.7 倍的 LU
PDF25 days ago
HLSTransform: 基于高层次综合的 FPGA 上能效优化的 Llama 2 推断
在大规模语言模型中使用图形处理单元 (GPUs) 作为硬件加速器，但是因为能源消耗大、运营成本高以及对边缘计算不适用等问题，我们开发了一种用于 transformers 的加速器 LLama 2，通过高级综合 (HLS) 来在 FPGAs
PDF2 months ago
在多 FPGA 平台上实现大规模 Transformer 的可行性
我们通过开发一个可扩展的多 FPGA 平台和一些将大型应用映射到该平台的工具，探讨了使用多个 FPGA 实现大型 transformers 的可行性，并通过六个 FPGAs 的工作样例证明了我们的平台和工具的有效性，从而验证了在大型机器学习
PDF2 months ago
SMOF：基于智能离线驱逐的 FPGAs 上的流式现代 CNNs
该论文介绍了一种在计算流水线中引入权重和激活记忆机制的方法，从而扩展了基于流数据架构设计方法中的设计空间，实现了将现代卷积神经网络映射到具有有限芯片内存的设备上。此方法通过在计算流水线中将权重和激活数据驱逐到芯片外存储器中，充分利用计算和内
PDF3 months ago
AI - 边缘设备下多智能体分布式学习的不确定性估计
利用 FPGAs 和 AI 加速器，边缘物联网设备实现了计算能力的大幅提升，研究探讨了通过 AI 设备实现分布式数据处理的方法，并提出了在分布式学习环境中管理不确定性的一种新方法，即贝叶斯神经网络。
PDF4 months ago
FlightLLM: 基于 FPGA 的高效大型语言模型推断及其完整映射流程
该研究论文提出了一种基于 FPGA 的 FlightLLM 方法，通过利用 FPGA 特定资源和创新解决方案，实现了大规模语言模型（LLMs）的高效推理，包括压缩技术、计算效率、内存带宽和编译开销等方面的优化。在实验中，该方法在 Xilin
PDF6 months ago
ACCL+：基于 FPGA 的分布式应用集合引擎
为了方便开发分布式 FPGA 应用，本文提出了一种开源的多功能基于 FPGA 的集体通信库 ACCL+，可以作为 CPU 应用的集体卸载引擎，同时通过两个应用案例展示其在分布式深度学习推荐推理中的关键作用和高效性能。
PDF6 months ago
利用 FPGA 技术增强生物医学计算
本研究详细探讨了使用卷积神经网络（CNN）、循环神经网络（RNN）、长短期记忆网络（LSTM）和深度置信网络（DBN）通过可编程门阵列（FPGA）改进对心电图（ECG）信号的分析的复杂神经网络框架，使用 MIT-BIH 心律失常数据库作为模
PDF7 months ago
PolyLUT: 学习分段多项式用于超低延迟的 FPGA 基于 LUT 的推理
使用多元多项式作为基本构建模块，我们提出了一种新的方法，通过软逻辑将多项式计算隐藏在 LUTs 内部，从而在 FPGA 部署上训练神经网络，实现相同的准确性，同时显著降低延迟和面积。我们在网络入侵检测、CERN 大型强子对撞机的喷气识别和
PDF10 months ago
FPGA 资源感知的实时神经网络结构剪枝
通过硬件为中心的修剪公式，我们在神经网络中减少了计算和存储的使用，并在实时推理中取得了显著的资源利用率改进。
PDFa year ago
利用 FPGA 能力加速生物医学计算
本研究基于多种高级神经网络结构，包括卷积神经网络、循环神经网络、LSTM 和深度置信网络，利用可编程门阵列（FPGA）进行 ECG 信号分析，探索开发基于 PYNQ Z1 板的自定义张量计算单元（TCU）加速器，为各种应用程序优化神经网络性
PDFa year ago
SNN 和 CNN FPGA 实现的定量比较：是否使用尖峰？
本文研究卷积神经网络和脉冲神经网络在 FPGA 加速器上的性能和能量效率，探究 SNN 是否能实现减少能量要求等期望，结果发现在复杂的应用场景如 SVHN 和 CIFAR-10 上，SNN 的能量和效率优势并不明显，而在小规模 MNIST
PDFa year ago
面向向量搜索的硬件和算法协同设计
介绍了一种基于 FPGA 的可扩展矢量搜索框架 FANNS，通过自动协同设计硬件和算法来生成相应的加速器，以在数据中心和 AI 超算中实现未来的 FPGA 集成。
PDFa year ago
Mixed-TD：具有层特定张量分解的高效神经网络加速器
本文提出了一种基于混合张量分解方法 (Mixed-TD) 将卷积神经网络 (CNN) 映射到 FPGA 上的框架，该方法采用了层特定的奇异值分解 (SVD) 和标准分解 (CPD)，每个 DSP 可以实现与最先进的 CNN 的 1.73x
PDFa year ago
在 FPGAs 中部署 AI 推理引擎的框架实现
本文介绍了用于解决 SLAC 数据实验的高速探测器的存储问题的解决方案 —— 用机器学习技术在边缘计算设备上实现实时数据处理的 SLAC 神经网络库框架，该框架采用基于 FPGA 的加速器来实现 ML 解决方案，并且支持所有权重的 RTL
PDFa year ago
利用 FPGA 进行符号回归用于快速机器学习推理
本篇论文提出一种利用符号回归技术和 FPGA 实现的机器学习模型优化算法，成功地将一个由 3 层神经元组成的模型大幅优化，准确率超过 90%，执行时间缩短了 13 倍。
PDFa year ago
一种混合方法，将基于人工神经网络和传统解调相结合，用于有效地在 FPGA 中实现通信
本研究提出一种基于自编码器的有效神经网络重映射方法，以结合传统的解调算法，实现在 FPGAs 上进行通信。我们的方法在保证通信效果的同时，提高了硬件的效率，为 ANN 通信算法在实际应用中提供了新思路。
PDFa year ago
EF-Train: FPGA 上通过数据重塑实现高效的 CNN 设备端训练以进行在线适应或个性化
本研究设计的 EF-Train 是一种高效的 DNN 训练加速器，通过数据重塑，并建立自动计算和内存资源调度的分析模型，在低功耗边缘级 FPGA 上实现端到端的训练，最终达到了 46.99 GFLOPS 和 6.09GFLOPS/W 的吞吐
PDF2 years ago