本文概述了生成人工智能和边缘云计算的最新发展，并利用两个示例应用程序讨论了使用边缘云协作系统扩大其解决方案的技术挑战。最后，我们列出了在规模上训练和部署 GenAI 系统的设计注意事项，并指出了未来的研究方向。

Jun, 2023

最近在生成人工智能、计算机视觉和自然语言处理方面的进展，已经使得人工智能模型得到了广泛应用。这种广泛应用需要在生产环境中部署这些模型，确保可靠性、最小的停机时间以及优化基础设施的运营成本。大型机器学习模型经常需要 GPU 资源以进行高效推理，以满足服务级别目标。在这些趋势的背景下，人们越来越关注在无服务器架构中托管 AI 模型，并提供推理任务的 GPU 访问。这项调查旨在总结和分类大规模深度学习服务系统中的新兴挑战和优化机会。通过提供新颖的分类法和总结最近的趋势，我们希望这项调查能为大规模深度学习服务系统的新的优化视角提供启示，并激发出创新作品。

Nov, 2023

本文介绍了 IBM 的深度学习服务（DLaaS）的软件架构细节，该服务提供深度学习库，通过分布和编排层，资源供应层实现在云中可伸缩和弹性的管理，利用深度学习以及云计算相结合的业务模式，将传统机器学习方法向深度学习推进。

Sep, 2017

生成人工智能在设计领域展示了巨大的潜力，但由于资源需求大，通常在大型计算基础设施上进行训练并作为云服务提供。在这篇立场论文中，我们考虑了在资源受限环境中进行生成人工智能设计的潜力、挑战和有希望的方法。这需要在模型压缩、高效算法设计和可能利用边缘计算方面创新，以使生成人工智能在低资源环境中高效运行。这些努力可以使先进技术普及，并促进可持续发展，确保普遍可及性和对人工智能驱动设计效益的环境考虑。

Feb, 2024

人工智能中生成式大型语言模型的高效部署方法的综述

Dec, 2023

本文全面研究了利用云计算的可扩展和分布式人工智能框架以提高深度学习性能和效率的关键方面，包括数据存储和管理、优化策略、模型部署与服务等，并讨论了云计算人工智能的挑战、限制和未来研究方向。

Apr, 2023

本篇文章提出了一种基于协作的云边协同方法，称为 NetGPT，它能够有效地编排异构分布式通信和计算资源，并应用于提供个性化的生成服务，使用代表性的开源 LLMs（例如 GPT-2-basic 和 LLaMA 模型）的可行性，重点强调了用于实现本机 AI 网络体系结构的实质性变化，并演示了 NetGPT 的几个副产品优势。

Jul, 2023

大规模语言模型在数字人文研究中的应用深入探讨，揭示了它们在古籍保护、智能处理和学术创新方面的重要潜力，通过具体案例展示了人工智能在古籍组织、分类和内容生成中的辅助作用，并探索了在艺术创新和文化遗产保护中的应用前景，最后探讨了由人工智能技术引发的数字人文领域中技术、信息和社会相互交融的挑战和机遇。

Apr, 2024

无线网络的演变趋势是朝着连接智能化发展，边缘人工智能作为一种有前景的解决方案，通过在网络边缘提供高质量、低延迟和保护隐私的人工智能服务来实现连接智能化。本文介绍了一种自主边缘人工智能系统，它自动组织、自适应并优化自身以满足用户的多样化需求。该系统采用云 - 边缘 - 客户端分层架构，其中大型语言模型（即 GPT）位于云端，其他人工智能模型则共同部署在设备和边缘服务器上。通过利用 GPT 在语言理解、规划和代码生成方面的强大能力，我们提出了一种多功能框架，它能够高效协调边缘人工智能模型以满足用户的个性化需求，同时通过边缘联合学习自动生成训练新模型的代码。实验结果表明，该系统具有精确理解用户需求、以最小成本高效执行人工智能模型以及通过联邦学习有效创建高性能人工智能模型的非凡能力。

Jul, 2023

本文研究大型语言模型（LLMs）对人工智能研究的影响。通过以 GPT3.5 / ChatGPT3.4 和 ChatGPT 4 为例，我们展示这些模型具有什么样的功能，并且这些模型令人们瞩目的领域覆盖速度证明了这个趋势正在逐渐变成实现通用智能的强劲迹象。这些模型的创新也将随着这些人工智能系统的成熟而扩大，并将展示出在我们社会的多个方面具有重要影响的不可预见的应用。

May, 2023