我们提出了一种基于强化学习的计算卸载解决方案，它可以在考虑首选深度学习模型选择技术的情况下学习最佳卸载策略，以最小化响应时间同时提供足够的准确性，我们的解决方案在 AWS 和 ARM 核心配置的多个实现中提供 35％的加速，并且最少仅有 0.9％的准确性降低，展示了我们在线学习框架在边缘计算及联云系统中编配深度学习推理的潜力。

Feb, 2022

本文提出了一个基于资源限制的多臂老虎机模型的在线学习框架，用于解决异构边缘设备的分布式机器学习问题，实验结果表明，该框架在学习性能和资源消耗之间的权衡方面显著优于现有的边缘学习和其他协作机器学习方法。

Apr, 2020

提出了 Edgent，这是一种协作和按需的 DNN 合作推理框架，其旨在通过在设备和边缘之间自适应地分配 DNN 计算来提高实时 DNN 推理的性能，并通过在适当的中间 DNN 层进行早期退出来加速 DNN 推理。

Jun, 2018

研究了嵌入小型机器学习模型的资源受限边缘设备与托管大型机器学习模型的边缘服务器之间的 Hierarchical Inference 策略，提出了在线元学习框架，以预测小型模型的分类猜测正确性，并使用四个数据集对其性能进行了评估。

Apr, 2023

本论文探讨了 DNN 在资源受限的边缘设备上部署的优化问题，并研究了四种边缘智能场景下的深度学习方法，通过减少 DNN 冗余度来达到资源消耗与模型准确度之间的平衡。

Oct, 2022

本文提出了一种新颖的基于预训练卷积神经网络模型的轻量级 OOD 检测方法 EARLIN，通过定义降维特征空间上的距离函数从浅层中挖掘重要特征来检测输入样本是 ID 还是 OOD，无需对已有模型重新训练或使用 OOD 数据集来获取检测参数，通过实验验证其在真实数据集上的检测效果优于其他方法且成本更低。

Jun, 2021

该论文提出了一种基于边缘计算的 DNN 协同推理框架 Edgent，通过 DNN 分区和权衡设备的云资源和临近边缘资源来协调实时的 DNN 推理，进而降低计算延迟，实现低延迟边缘智能处理。

Oct, 2019

本文介绍了一种基于神经网络的设备本地 (on-device) 学习方法，该方法能够在低端设备上提高边缘人工智能 (Edge AI) 应用的精确度并节省计算和通信成本，特别是在有噪声的环境下重训练 (retraining) 后可显著提高异物检测 (anomaly detection) 的准确性。

Mar, 2022

边缘设备资源有限，难以将深度学习模型推广到各种环境和任务。本文提出了一种具有开放集识别能力的边缘云协同系统 EdgeFM，通过选择性上传未标记的数据来查询云端的基础模型 (FM)，并为边缘模型定制特定的知识和体系结构，同时 EdgeFM 在运行时考虑数据不确定性和动态网络变化进行动态模型切换，以确保准确性始终接近原始 FM。我们在两个边缘平台上使用两个 FM 实现了 EdgeFM。我们在三个公共数据集和两个自采集数据集上评估了 EdgeFM，结果表明与基准相比，EdgeFM 可以将端到端延迟缩短多达 3.2 倍，并实现 34.3% 的准确性提高。

Nov, 2023

提出了一种基于动态早停止和能量感知策略的边缘智能系统，用于解决深度学习模型在能源受限设备上的能耗问题，实现高效、精准的推理，与传统的能量不感知策略相比，精度和服务率分别提高了至多 25% 和 35%。

May, 2023