从云到边缘：重新思考针对低资源设计挑战的生成式人工智能

Feb, 2024

从云到边缘：重新思考针对低资源设计挑战的生成式人工智能

From Cloud to Edge: Rethinking Generative AI for Low-Resource Design Challenges

Sai Krishna Revanth Vuruma, Ashley Margetts, Jianhai Su, Faez Ahmed, Biplav Srivastava

TL;DR生成人工智能在设计领域展示了巨大的潜力，但由于资源需求大，通常在大型计算基础设施上进行训练并作为云服务提供。在这篇立场论文中，我们考虑了在资源受限环境中进行生成人工智能设计的潜力、挑战和有希望的方法。这需要在模型压缩、高效算法设计和可能利用边缘计算方面创新，以使生成人工智能在低资源环境中高效运行。这些努力可以使先进技术普及，并促进可持续发展，确保普遍可及性和对人工智能驱动设计效益的环境考虑。

Abstract

generative artificial intelligence (AI) has shown tremendous prospects in all aspects of technology, including design. However, due to its heavy demand on resources, it is usually trained on large computing infra

generative artificial intelligence design resource-constrained settings model compression edge computing

发现论文，激发创造

边缘云计算的规模化生成人工智能概览

本文概述了生成人工智能和边缘云计算的最新发展，并利用两个示例应用程序讨论了使用边缘云协作系统扩大其解决方案的技术挑战。最后，我们列出了在规模上训练和部署 GenAI 系统的设计注意事项，并指出了未来的研究方向。

Jun, 2023

绿色边缘人工智能：当代综述

人工智能（AI）技术已成为众多行业的关键驱动力，包括消费电子、医疗保健和制造业，主要得益于过去十年间的复苏。AI 的变革力量主要来自于深度神经网络（DNN）的应用，其需要大量的训练数据和大量的计算资源进行处理。然而，由于与云通信相关的潜在延迟问题，深度学习（DL）工作流越来越多地过渡到靠近终端用户设备（EUDs）的无线边缘网络上。这种转变旨在支持对延迟敏感的应用，并催生了边缘 AI 的新范式，这将在即将到来的 6G 网络中支持无处不在的 AI 应用。尽管具有潜力，但边缘 AI 面临重大挑战，主要是由于无线边缘网络的资源限制和 DL 的资源密集性之间的矛盾。为确保性能既最佳又可持续，这需要对边缘 AI 采取注重能源的方法。因此，本文提供了关于绿色边缘 AI 的现代综述。我们首先分析了边缘 AI 系统的主要能源消耗组成部分，以确定绿色边缘 AI 的基本设计原则。在这些原则的指导下，我们进一步探讨了边缘 AI 系统中三个关键任务的能效设计方法，包括训练数据获取、边缘训练和边缘推理。最后，我们强调了进一步增强边缘 AI 能效的潜在未来研究方向。

Dec, 2023

6G 时代资源高效的移动边缘生成网络：基础、框架和案例研究

将生成式人工智能（GAI）与边缘计算网络结合，提出了生成式移动边缘网络的概念，并概述了广泛采用的 GAI 技术及其在移动边缘网络中的应用。在资源受限场景下，通过设计资源高效的方法、制定适当的激励机制以及利用生成扩散模型（GDMs）找到最优的激励机制解决方案，解决了生成式移动边缘网络面临的挑战。通过案例研究提出了一种模型分区的方法以实现智能任务卸载，并提出了基于 GDM 的 Stackelberg 模型来激励边缘设备为移动边缘智能提供计算资源。最后，提出了几个能够促进生成式移动边缘网络未来发展的方向。

Dec, 2023

生成人工智能的挑战与机遇

我们旨在识别现代生成 AI 范例中尚未解决的主要挑战，以进一步增强其能力、多样性和可靠性，并为研究人员提供有价值的见解，以探索更有成效的研究方向，从而促进更强大和可访问的生成 AI 解决方案的发展。

Feb, 2024

大规模生成模型时代的计算：从云原生到 AI 原生

探讨大型生成式 AI 模型与云原生计算架构的交叉点，提出了一种利用云原生技术和先进的机器学习运行时的 AI 本地化计算范式，旨在优化成本和提高资源可访问性。

Jan, 2024

生成式人工智能时代的物联网：视野与挑战

利用产生式人工智能（Generative AI）将物联网（IoT）推向新水平，提供巨大的潜力和重要应用领域。然而，在实现物联网中充分利用 Generative AI 方面存在着一些关键挑战和机遇。

Jan, 2024

建筑行业中的生成人工智能：现状分析

施工行业的生成性人工智能技术的机会和挑战，以及基于自身数据构建定制生成性人工智能解决方案的框架的最新状态分析，为学术界和建筑专业人员提供综合分析和实用框架，以指导生成性人工智能技术在提高建筑行业的生产力、质量、安全性和可持续性方面的应用。