Jan, 2024

当生成 AI 遇见边缘智能时的集成微调和推理

TL;DR高性能生成人工智能与边缘智能之间的相互作用提供了新的机会,而基于大量计算资源和大规模未标记语料的 GAI 预训练为 EI 提供了强大的基础知识,而 EI 可以利用碎片化计算资源为 GAI 聚合个性化知识。本文提出了一种面向 GAI 的综合网络(GaisNet),它利用无数据的知识传递来缓解矛盾,并通过双向的知识流实现 GAI 的循环模型微调和任务推断,实现了 GAI 和 EI 之间无缝融合和协同进化。实验结果验证了所提机制的有效性。最后,我们讨论了 GAI 和 EI 之间相互作用的未来挑战和方向。