edge inference | BriefGPT - AI 论文速递

关键词edge inference

搜索结果 - 6

ICML重访级联集成以提高推理效率
本文研究了一种简单的自适应推理方案，通过构建级联模型集成（CoE）并根据集成一致性作为数据依赖路由准则，将资源高效的模型逐渐扩展到更表达能力的模型，从而提高准确性并降低推理成本。
PDF2 days ago
推动大型语言模型走向 6G 边缘：愿景、挑战和机遇
大型语言模型的部署面临一些挑战，云部署方式会有长时间响应、高带宽成本和数据隐私问题。文章探讨了在 6G 边缘部署语言模型的潜力，介绍了多模态语言模型的关键应用，并提出了 6G 移动边缘计算的架构。此外，讨论了边缘训练和边缘推理的设计方面，提
PDF9 months ago
利用李亚普诺夫驱动的深度强化学习技术，利用可重构智能表面增强边缘推理
本文提供面向 6G 网络中可重构智能表面（RIS）的边缘智能算法，结合了 Lyapunov 随机优化和深度加强学习，以实现能耗、时延和推理准确度的最佳平衡。
PDFa year ago
边缘机器学习评论和分类：需求、模式和技术
本文对边缘机器学习技术进行了综述和分类，总结了该领域的要求、技术和未来研究方向。
PDFa year ago
头部姿态估计多输出回归模型增强边缘推断的参数选择比较研究
本研究采用基于幅值的修剪技术来对深度学习模型进行优化，以适应边缘推理的需求，我们成功地将头部姿态估计的多输出回归模型的模型大小优化了 75% 以上，并取得了比原模型更高的精度。
PDF2 years ago
MM边缘推理中学习面向任务的通信：一种信息瓶颈方法
本文提出了一种基于学习的通信方案，综合优化特征提取，源编码和信道编码，采用变分信息瓶颈框架构建可行的上界，使用稀疏诱导分布作为变分先验，提高边缘设备和强大边缘服务器的传输性能和速度。
PDF3 years ago