neural network inference | BriefGPT

关键词neural network inference

搜索结果 - 6

强化学习任务的神经网络压缩
在强化学习中应用稀疏性和修剪方法对神经网络推断进行优化，从而达到能耗和延迟效率的提升，本研究针对不同强化学习算法及环境系统地进行了探索，并取得神经网络规模最多减小 400 倍的优化效果。
PDF2 months ago
极弱设备上的实时神经网络推断：可解释人工智能的灵活卸载
通过利用 `eXplainable AI` 技术，在训练阶段明确强制规定特征的稀疏性，并最小化在线计算和通信开销，以实现弱嵌入式设备上的实时神经网络推断。
PDF6 months ago
使用本地重参数技巧学习离散权重和激活函数
研究二值化神经网络的运算和内存需求，提出通过训练网络的离散权重和激活，结合概率建模，实现更高效的离散激活网络推断，以降低运行时间和内存占用。
PDFa year ago
ICLR基于采样的大型线性模型推断，应用于线性化拉普拉斯
引入可扩展的基于样本的 Bayesian 推断方法、匹配的超参数选择方法和经典特征归一化方法，以解决线性化神经网络推断中的计算成本限制和先前突出的路径学问题，从而在 CIFAR100、Imagenet 和高分辨率层析成像重建任务中实现线性化
PDF2 years ago
Tabula: 安全神经网络推断的非线性激活函数的高效计算
该研究通过采用安全查找表的算法 Tabula，代替使用加密电路进行神经网络推断所需的非线性激活函数加密计算，以此降低了通信、存储和运行成本，并在安全神经网络推断时实现了显著的性能提升。
PDF2 years ago
基于 FPGA 的深度神经网络在粒子物理中的快速推断
介绍了基于 FPGA 进行神经网络推理的案例研究，其使用高级综合技术（HLS）构建机器学习模型，旨在为粒子物理学的高速实时事件处理提供支持，适用于很多场合，如寻找新的暗扇区粒子和测量希格斯玻色子等。
PDF6 years ago