compute-in-memory | BriefGPT

关键词compute-in-memory

搜索结果 - 10

HASNAS: 一种面向硬件的脉冲神经结构搜索框架，用于神经形态计算存储系统
提出了一种专注于硬件感知的脉冲神经体系结构搜索框架 HASNAS，用于神经形态的计算内存系统（CIM）中，以实现在给定的内存、面积、延迟和能耗约束下获得高准确度的脉冲神经网络 (SNN)。
PDF4 days ago
记忆即一切：加速大型语言模型推理的计算于内存架构综述
大型语言模型的推出带来了自然语言处理领域的重大变革，本文调查了与转换器模型有关的各种 CIM 构架以及它们如何解决现代人工智能计算系统面临的挑战。
PDF22 days ago
为在 NVCIM 加速器上高效部署 DNN 而设计的微小共享块
通过在 DNN 架构中集成一个小的共享 1x1 卷积块，我们提出了 “Tiny Shared Block (TSB)” 方法，有效地减小了设备变异的影响，从而实现了超过 20 倍的推理准确性提升、超过 5 倍的训练加速和减少权重到设备映射成
PDF2 months ago
利用内存中学习训练 AI 系统的能效限制
学习内存（LIM）是一种最近提出的克服训练机器学习系统中基本内存瓶颈的范式。本文从理论上推导了使用不同的 LIM 方法来训练 AI 系统时能量耗散的新的理论下界，并扩展了这些限制，考虑了训练所使用的浮点运算数量、AI 模型的大小和训练参数的
PDF4 months ago
计算 - 内存：什么、何时、何处
本文研究了在机器学习推断中将计算内存 (Compute-in-memory, CiM) 技术集成的问题，并通过实验证明了使用 CiM 架构可以提高能源效率，达到低至以 INT-8 精度 0.12 倍能源消耗和重复权重交错技术下最高 4 倍的
PDF6 months ago
通过协同计算内存网络中的频域压缩在边缘处控制模拟数据洪水
通过使用频域学习方法和内存沉浸式协同数字化方法，该研究提出了一种改善深度学习推断任务中的面积效率的新方法，在处理来自传感器和物联网设备的高维多光谱模拟数据方面具有潜在的应用前景。
PDF9 months ago
通过使用右截尾高斯噪声进行训练，提升 NVCiM DNN 加速器的实际最差情况性能
使用非易失性存储器构建的计算内存（CiM）在加速深度神经网络（DNNs）方面具有潜力，但由于设备变异，训练有素的模型参数在映射到 NVM 设备后常常出现较大偏差，导致这些基于 CiM 的 DNN 加速器性能显著下降。本文提出使用 k-th
PDFa year ago
负反馈训练：提高 NVCiM DNN 加速器稳健性的新概念
本研究提出一种新的深度神经网络 DNN 训练方法，利用负反馈机制作为多出口机制来提高神经网络模型对设备变异的鲁棒性，在处理 Compute-in-Memory，非易失性内存，矩阵操作等方面都有很好的性能和效率。
PDFa year ago
基于大规模开关式忆阻器的计算即存储模块用于深度神经网络训练
研究了一种使用模拟计算模块和数字系统的混合精度训练方案，在实验中采用了 memristor-based 计算存储内存模块，成功实现了针对大型深度神经网络的有效训练，并评估了模型的抗硬件变化特性。
PDFa year ago
一种采用低成本 DAC/ADC 操作的基于电荷域 P-8T SRAM 计算存储体实现的 4 位输入处理方案
该论文提出了一种低成本的基于 PMOS 的 8T SRAM Compute-In-Memory 架构，用于高效地执行 4 位输入激活和 8 位权重之间的乘加操作，并成功利用了位线电荷共享技术和模拟计算来进行数字模拟转换和模拟乘法。
PDF2 years ago