Jan, 2024

LMaaS：大型模型作为服务的定价策略探索

PDF
TL;DR本文提出了 Large Model as a Service (LMaaS) 的概念，将大型模型的灵活租赁作为智能通信的一种策略，通过优化定价和选择决策来解决动态和异质客户环境下的定价优化问题。
intelligent communicationlarge modelslarge model as a servicestackelberg gamepricing optimization
发现论文，激发创造
  • 语言模型即服务模式下的 ARRT：新范式综述及挑战

    现有的一些强大的语言模型通常是专有的系统，只能通过（通常是有限制的）网络或软件编程接口来使用。本文旨在界定这些挑战对 LMaaS 的可访问性、可复制性、可靠性和可信度（ARRT）造成的影响，并对当前解决方案进行系统性考察并提出建议，同时提供现有主要 LMaaS 的综合概述，包括其许可和接口的功能。

    Sep, 2023

  • 模式即服务（MaaS）：调查

    Model-as-a-Service (MaaS) 是一种新的部署和服务范式，为不同的基于人工智能的模型提供了可扩展和可访问的解决方案，本文综述了 MaaS 的意义、其在各个行业的应用以及未来研究的挑战和问题。

    Nov, 2023

  • 大型语言模型的经济性权衡：一个案例研究

    使用大型语言模型（LLMs）辅助人类客服代理商自动生成现成或有改动的响应已成为许多公司降低雇用客服代理商成本的方式。本文通过使用成本框架评估一个 NLP 模型的实用性，将其应用于特定品牌的案例研究并比较三种 LLM 的专业化策略，发现模型的响应可用性可以补偿推理成本的巨大差异，并将研究结果推广到更广泛的企业领域。

    Jun, 2023

  • 大规模生成模型时代的计算：从云原生到 AI 原生

    探讨大型生成式 AI 模型与云原生计算架构的交叉点，提出了一种利用云原生技术和先进的机器学习运行时的 AI 本地化计算范式，旨在优化成本和提高资源可访问性。

    Jan, 2024

  • 基于需求定制的 LMLs 服务

    通过引入层级分布式的大型语言模型（LLM）架构，提高 LLM 在异构计算平台上的可访问性和可部署性，实现按需访问和定制化服务，并在用户与应用需求之间取得最佳权衡，推动人工智能技术的进步。

    Jan, 2024

  • 朝向高效的生成式大型语言模型服务：从算法到系统的调研

    人工智能中生成式大型语言模型的高效部署方法的综述

    Dec, 2023

  • 大型 AI 模型赋能的多模态语义通信

    利用大型人工智能模型构建的大规模多模态语义通信（LAM-MSC）框架，通过多模态对齐、个性化语言模型和信道状态估计相结合来解决多模态语义通信中的数据异构性、语义歧义和信号衰落等挑战，并通过模拟实验验证了该框架的卓越性能。

    Sep, 2023

  • 基于自适应大型语言模型（LLM）的多智能体系统

    本文提出将大型语言模型（LLMs）融入多智能体系统（MASs）中来实现其自适应，并通过一个基于 MAS 的应用进行实践说明，从而为 MAS 的自适应提供新的范式。

    Jul, 2023

  • 基于大型语言模型增强的 6G 通信多智能体系统

    利用大型语言模型（LLM）结合多智能体系统和自然语言输入，解决 6G 通信中的任务需求、通信知识获取和相关问题的评估与改进。

    Dec, 2023

  • 安全自助大型语言模型探索的制度化平台

    本文介绍了由肯塔基大学应用人工智能中心开发的一种用户友好的平台，旨在提高大型定制化语言模型（LLMs）的可用性。通过利用最近在多 LoRA 推理方面的进展，该系统有效地适应了各种用户和项目的定制适配器。该论文概述了系统的体系结构和主要特点，包括数据集筛选、模型训练、安全推理和基于文本的特征提取。

    Feb, 2024