memory demands | BriefGPT - AI 论文速递

关键词memory demands

搜索结果 - 5

CVPR通过数据驱动的频谱视角修剪在视觉模型中发现彩票票据
神经网络修剪能够减少深度学习模型训练之前的计算成本和内存需求。我们专注于该框架，并提出了一种新的初始化修剪算法，利用神经切向核（NTK）理论将稀疏网络的训练动态与密集网络对齐。我们介绍了如何考虑 NTK 光谱中通常被忽视的数据相关部分，并通
PDFa month ago
语音识别中的深度学习模型：GPU 能耗测量，噪声影响和边缘部署模型量化
本研究通过分析采用 FP32、FP16 和 INT8 量化技术在清洁和噪声数据集上的 ASR 模型的字错率和转录速度，揭示了准确性、速度、量化、能效与内存需求之间的重要权衡关系。结果发现，将精度从 fp32 改变为 fp16 可以使不同模型
PDF2 months ago
连续模型编辑和批次处理，搭配 HooK 层
通过开发内存友好型的 COMEBA-HK 模型编辑方法，我们解决了连续批量支持型模型编辑方法在时间和资源消耗方面的挑战，并在单轮和连续批量编辑场景下证明了我们方法的卓越性能。
PDF4 months ago
利用 N-Skipgram 和位置一元匹配进行无监督语音识别
这篇论文介绍了一种新颖的 ASR 系统 ESPUM，通过利用低阶 N-skipgrams（最高 N=3）和从小批量样本中收集到的位置单字统计数据，克服了无监督语音识别系统训练中的 GAN 相关不稳定性、语音和文本的不匹配以及显著的内存需求。
PDF9 months ago
材质纹理的随机访问神经压缩
本篇论文提出一种新的神经压缩技术，旨在解决由纹理数据增加所引起的存储和内存需求问题；该方法可实现低比特率压缩，同时达到更好的图像质量，支持实时解压，具有与 GPU 上的块纹理压缩类似的随机存取性能，并使用自定义训练实现实际的压缩速度。
PDFa year ago