MMJun, 2024

面向企业的复合人工智能系统的蓝图架构

TL;DR大型语言模型已经展示出了超越传统自然语言处理挑战的卓越能力,为生产使用案例创造了机会。为了实现这一目标,出现了构建复合人工智能系统的显著转变,在其中将大型语言模型与包括模型、检索器、数据库和工具在内的广泛软件基础设施集成。本文介绍了一种针对复合人工智能系统在企业环境中进行成本效益和可行性操作的蓝图架构。我们提出的架构旨在与现有的计算和数据基础设施进行无缝集成,通过 “流” 作为关键的编排概念,在代理和其他组件之间协调数据和指令。任务和数据计划分别将任务和数据分解、映射并优化分配给在各自注册表中定义的可用代理和数据源,考虑生产约束条件,如准确度和延迟。