我们提出了 Saturn，这是一个新的数据系统，旨在提高多大模型训练的效率，通过解决并行技术选择、GPU 分布以及调度等相关问题，我们建立了一个新的系统架构，通过联合优化方法，在模型选择中运行时间较传统深度学习实践缩短了 39-49%。

Nov, 2023

大型语言模型与模型并行化的信息系统架构（SPASE）降低了模型选择运行时间。

Sep, 2023

提出将生成模型，特别是 LLMs 与非结构化文本数据源相结合，以产生信息技术工件，从而帮助业务利益相关者了解市场状况和自身定位，提供量化洞察，以改善未来前景。

Aug, 2023

本文探讨了新兴生成式人工智能（GenAI）模型，如大型语言模型（LLM），如何增强过程系统工程（PSE）中的解决方法学。研究发现，这些尖端的 GenAI 模型，特别是基础模型（FM），在广泛的任务范围内，如回答查询、图像生成和复杂决策等方面提供了多功能适应性。本文深入介绍了经典和新兴的 GenAI 模型，包括 FM，并探讨了它们在 PSE 的关键领域内的应用，如合成和设计、优化和整合以及过程监测和控制。此外，本文还讨论了在充分利用 GenAI 在 PSE 中的潜力方面所面临的潜在挑战，包括多尺度建模、数据要求、评估指标和基准、以及信任与安全性，从而加深对如何将 GenAI 有效集成到系统分析、设计、优化、运营、监控和控制中的探讨。该研究为未来关于在 PSE 中应用新兴 GenAI 的研究提供了指导。

Feb, 2024

本篇论文提出了一种新型的人工智能生态系统，将基础模型与数百万 API 相连通以实现各种数字和实体任务，该方法主要利用基础模型作为中心系统，将这些 API 作为子任务解决器，以完成各种任务。

Mar, 2023

基于人工智能的大规模基础模型在自主驾驶中具有着巨大的应用潜力，能够提升场景理解和推理能力，增强语言和行动命令的认知推理，并改善自主驾驶系统的准确性和可靠性。同时，通过自我监督学习范式下的大规模数据，世界模型可以生成看似真实的未见过的驾驶环境，促进对道路使用者行为的预测和驾驶策略的离线训练，从而提高自主驾驶的安全性和处理长尾分布问题的能力。

Dec, 2023

基于对代理与基础模型互动模式的分类和对该模式的扩展架构提出的综述性论文，为实现基础模型在实际人工智能系统中的潜力提供了指导。

Feb, 2024

人工智能（AI）和基础模型（FMs）的快速进展引领了各个行业的变革，本文探讨了 FMs 在电信行业中的整合及 AI 原生电信的概念，并重点强调了 AI 原生优先方法的工程考虑和独特挑战。尽管 FMs 有巨大潜力，但在重要的电信环境中，伦理、监管和运营挑战需要谨慎考虑。本文对于在激烈竞争的市场中蓬勃发展至关重要。

Oct, 2023

通过在多个地理空间子领域进行测试，发现在某些文本模态的地理任务中，基于任务不可知的大型语言模型可以在零样本或少样本学习设置中胜过基于任务特定的全监督模型，但是在其他涉及多种数据模态的地理任务上，现有的基础模型仍然不如基于任务特定的模型表现。因此，通过处理不同的地理数据模态，建议可能性使用能够通过地理对齐来推理各种类型的地理数据的多模态基础模型来应对地理人工智能挑战的多模态特征。

Apr, 2023

通过开放地理空间数据和自我监督学习，CityFM 构建了一个多模态的预训练基础模型，用于处理地理空间数据和回答城市相关问题，并在道路、建筑和区域级别的任务上获得了优秀的性能。

Oct, 2023