边缘云计算的规模化生成人工智能概览
生成人工智能在设计领域展示了巨大的潜力,但由于资源需求大,通常在大型计算基础设施上进行训练并作为云服务提供。在这篇立场论文中,我们考虑了在资源受限环境中进行生成人工智能设计的潜力、挑战和有希望的方法。这需要在模型压缩、高效算法设计和可能利用边缘计算方面创新,以使生成人工智能在低资源环境中高效运行。这些努力可以使先进技术普及,并促进可持续发展,确保普遍可及性和对人工智能驱动设计效益的环境考虑。
Feb, 2024
探讨大型生成式 AI 模型与云原生计算架构的交叉点,提出了一种利用云原生技术和先进的机器学习运行时的 AI 本地化计算范式,旨在优化成本和提高资源可访问性。
Jan, 2024
本文全面研究了利用云计算的可扩展和分布式人工智能框架以提高深度学习性能和效率的关键方面,包括数据存储和管理、优化策略、模型部署与服务等,并讨论了云计算人工智能的挑战、限制和未来研究方向。
Apr, 2023
本文介绍了边缘计算智能(如边缘人工智能 / 机器学习)的应用和挑战,为解决现有方法存在的采用障碍,提出了一种基于模型为中心的设计,以建立分散体系结构下的高效协作学习。
Jun, 2023
本文探讨了新兴的边缘计算范式和人工智能应用之间的交叉,提出了边缘智能的新概念,并从广泛的视角阐述了核心概念和研究规划,为未来的边缘智能研究提供了必要的背景。
Sep, 2019
人工智能(AI)技术已成为众多行业的关键驱动力,包括消费电子、医疗保健和制造业,主要得益于过去十年间的复苏。AI 的变革力量主要来自于深度神经网络(DNN)的应用,其需要大量的训练数据和大量的计算资源进行处理。然而,由于与云通信相关的潜在延迟问题,深度学习(DL)工作流越来越多地过渡到靠近终端用户设备(EUDs)的无线边缘网络上。这种转变旨在支持对延迟敏感的应用,并催生了边缘 AI 的新范式,这将在即将到来的 6G 网络中支持无处不在的 AI 应用。尽管具有潜力,但边缘 AI 面临重大挑战,主要是由于无线边缘网络的资源限制和 DL 的资源密集性之间的矛盾。为确保性能既最佳又可持续,这需要对边缘 AI 采取注重能源的方法。因此,本文提供了关于绿色边缘 AI 的现代综述。我们首先分析了边缘 AI 系统的主要能源消耗组成部分,以确定绿色边缘 AI 的基本设计原则。在这些原则的指导下,我们进一步探讨了边缘 AI 系统中三个关键任务的能效设计方法,包括训练数据获取、边缘训练和边缘推理。最后,我们强调了进一步增强边缘 AI 能效的潜在未来研究方向。
Dec, 2023
高性能生成人工智能与边缘智能之间的相互作用提供了新的机会,而基于大量计算资源和大规模未标记语料的 GAI 预训练为 EI 提供了强大的基础知识,而 EI 可以利用碎片化计算资源为 GAI 聚合个性化知识。本文提出了一种面向 GAI 的综合网络(GaisNet),它利用无数据的知识传递来缓解矛盾,并通过双向的知识流实现 GAI 的循环模型微调和任务推断,实现了 GAI 和 EI 之间无缝融合和协同进化。实验结果验证了所提机制的有效性。最后,我们讨论了 GAI 和 EI 之间相互作用的未来挑战和方向。
Jan, 2024
近期以来,GenAI 的概念已经发展了几十年,在自然语言处理和计算机视觉方面取得了实质性的突破,在工业场景中积极参与。鉴于其中的实际挑战,如有限的学习资源和过度依赖科学发现经验主义,我们将大规模生成模拟人工智能(LS-GenAI)提名为 GenAI 的下一个热点。
Aug, 2023
通过对 6G 网络研究中的数据驱动的无线研究、生成式人工智能、生成模型、GMs 和 6G 网络研究等关键词进行分析,本文介绍了生成模型的教程和调查,并对无线研究领域的核心问题进行了回顾和分析,提出了 GMs 在 6G 网络研究的重要作用,并针对未来可能面临的挑战提供了潜在的策略和有希望的解决办法。
Feb, 2024