NetGPT: 一种面向个性化生成服务的本地 AI 网络架构
6G 体系结构中人工智能和大型语言模型(LLMs)以及预训练的广义变压器(GPT)的无缝集成将在 AI 中心化操作和下一代通信范式中起到关键作用。
Nov, 2023
无线网络的演变趋势是朝着连接智能化发展,边缘人工智能作为一种有前景的解决方案,通过在网络边缘提供高质量、低延迟和保护隐私的人工智能服务来实现连接智能化。本文介绍了一种自主边缘人工智能系统,它自动组织、自适应并优化自身以满足用户的多样化需求。该系统采用云 - 边缘 - 客户端分层架构,其中大型语言模型(即 GPT)位于云端,其他人工智能模型则共同部署在设备和边缘服务器上。通过利用 GPT 在语言理解、规划和代码生成方面的强大能力,我们提出了一种多功能框架,它能够高效协调边缘人工智能模型以满足用户的个性化需求,同时通过边缘联合学习自动生成训练新模型的代码。实验结果表明,该系统具有精确理解用户需求、以最小成本高效执行人工智能模型以及通过联邦学习有效创建高性能人工智能模型的非凡能力。
Jul, 2023
通过将大型语言模型(LLMs)与机器学习(ML)模型相结合,我们提出了 “生成式 AI 在环” 的概念,利用 LLMs 的语义理解、上下文感知和推理能力来辅助人类处理移动通信网络中的复杂或意外情况,并通过合成数据来增强基于 ML 的网络入侵检测,这进一步展示出我们提出的想法的优势。
Jun, 2024
通过使用 Large Language Models (LLMs),我们提出了 ModelGPT 框架,以满足用户的特定需求,并以更快的速度生成定制化的 AI 模型,以实现更加便利和用户友好的人工智能模型。
Feb, 2024
AI 领域近年来取得了显著的进展,尤其是基于变压器架构的强大大型语言模型(LLMs)的出现。本文介绍了一种创新的 LLM 推理方法,展望了在无需网络连接的情况下,拥有数十亿参数的 LLMs 可以直接在移动设备上执行的未来。该应用程序不仅作为一个通用助手,而且通过原生代码和模型量化技术的结合,还可以实现与文本到动作功能的无缝移动交互。文章还提供了关于本地 LLM 推理的训练流程、实现细节、测试结果和未来方向的见解。这一突破性技术为用户提供了强大的人工智能能力,同时保护了用户的隐私并消除了延迟问题。
Sep, 2023
AutoML-GPT 是一种使用大型语言模型和任务导向提示的自动化训练管道,可自动处理数据、选择最佳模型架构和超参数优化,并在计算机视觉、自然语言处理等领域实现了显著的结果,对于许多 AI 任务具有广泛的适用性。
May, 2023
探讨大型生成式 AI 模型与云原生计算架构的交叉点,提出了一种利用云原生技术和先进的机器学习运行时的 AI 本地化计算范式,旨在优化成本和提高资源可访问性。
Jan, 2024
通过融合 Generative Pre-trained Transformers (GPT) 这类大型语言模型的高级推理能力和 Multiagent (MAS) 系统,这篇论文介绍了一种新的方法,“GPT-in-the-loop”,用于增强问题解决和解释能力。结合智能街灯物联网应用背景,该方法使代理人通过传感器、执行器和神经网络创建出一个能耗更低的照明系统,并与传统神经进化方法和软件工程师提供的解决方案进行了比较,凸显了 GPT 驱动的 Multiagent 系统在物联网中的潜力。
Aug, 2023
通过开发 GPT4AIGChip 框架,借助人类自然语言而非特定领域语言,将大型语言模型应用于自动化人工智能加速器设计,以推动下一代基于大型语言模型的设计自动化工具创新。
Sep, 2023
本文提出了一种用于网络流量理解和生成任务的生成预训练模型,优化了适应预训练模型到多样化任务的效果,并在一系列流量理解和生成任务中展现了其显著的有效性,显著优于现有技术方案。
Apr, 2023