resource-limited devices | BriefGPT

关键词resource-limited devices

搜索结果 - 6

仅通过前向传播进行测试时间模型适应
测试时间自适应是一种有效的方法，用于将经过训练的模型适配于具有潜在分布偏移的未见测试样本。为了应对资源有限的设备上的实际场景，我们提出了一种新的前向适应方法，它通过衍生自由的协方差矩阵适应进化策略来学习新添加的提示（作为模型输入），并设计了
PDF3 months ago
基于低成本代理的混合精度自适应量化
该论文提出了一种名为 LCPAQ 的新型模型量化方法，其中包含三个关键模块。在考虑硬件限制的基础上设计了硬件感知模块，开发了自适应混合精度量化模块来评估量化灵敏度，并使用希狄矩阵和 Pareto 边界技术进行整数线性规划来微调不同层的量化。
PDF4 months ago
基于 Stein 变分推断的高效无分布损失网络剪枝
本文提出了一种名为 DLLP 的新型网络剪枝方法，使用 Stein 变分推理和蒙特卡罗采样来避免对未知分布计算 KL 散度，该方法可以在不损失模型精度的情况下削减模型大小并提高通用性能。
PDF2 years ago
CVPRGST：组稀疏训练以加速深度强化学习
为了加速深度强化学习在实际边缘设备中的运行，本文提出了一种基于分块循环压缩的权重压缩方法，名为组稀疏训练 (GST)，该方法在所有深度强化学习迭代中选择性地使用分块循环压缩，并通过奖励感知修剪动态地调整目标稀疏度，以实现稳定的训练，实验表明
PDF3 years ago
通过优化量化区间和任务损失学习量化深层网络
通过可训练量化器和量化区间学习（QIL）来量化深层神经网络中的激活值和权重，以适应资源有限的设备，同时保持高精度和最小化精度损失。
PDF6 years ago
IJCAI深度神经网络的推理阶段统一和合并
本文提出了一种新的卷积神经网络合并方法，在共享权重的基础上，将训练好的两个具有不同架构的网络在推断阶段融合为一个统一的模型，以适应资源有限的设备，实验结果表明此方法有效。
PDF6 years ago