Jan, 2024

走向城市通用智能：城市基础模型综述与展望

PDF
TL;DR机器学习在智能城市服务的发展中起着至关重要的作用，最近出现的基础模型，如 ChatGPT，在机器学习和人工智能领域标志着一个革命性的转变。本文首先介绍了城市基础模型的概念，并讨论了构建它们所面临的独特挑战。然后，我们提出了一个以数据为中心的分类法，将当前的城市基础模型相关工作按照城市数据的模态和类型进行分类。此外，为了促进这一领域的发展，我们提出了一个有前景的框架，旨在解决已确定的挑战。此外，我们探讨了城市基础模型的应用领域，详细说明了它们在各种城市背景下的潜在影响。
machine learningintelligent urban servicesurban foundation modelssmart citiesdata-centric taxonomy
发现论文，激发创造
  • CityFM：解决城市挑战的城市基础模型

    通过开放地理空间数据和自我监督学习，CityFM 构建了一个多模态的预训练基础模型，用于处理地理空间数据和回答城市相关问题，并在道路、建筑和区域级别的任务上获得了优秀的性能。

    Oct, 2023

  • 走向图基础模型：调研与展望

    提出了图基础模型（GFMs）的概念，并对其关键特征和技术进行首次全面阐述，然后将现有工作根据其依赖性分为三类，即基于图神经网络和大语言模型。本文不仅提供了对当前图基础模型领域的综合概述，还讨论了这一发展中领域的潜在研究方向。

    Oct, 2023

  • 深入多模态多任务基础模型探索道路场景理解：从学习范式视角

    基于多模态多任务视觉理解基础模型（MM-VUFMs）的研究综述，旨在提供道路场景下 MM-VUFMs 的综合概述，包括任务特定模型、统一多模态模型、统一多任务模型和基础模型推进技术，并突出其在不同学习范式中的高级能力。

    Feb, 2024

  • 基础模型在地理空间人工智能中的机遇与挑战

    通过在多个地理空间子领域进行测试，发现在某些文本模态的地理任务中，基于任务不可知的大型语言模型可以在零样本或少样本学习设置中胜过基于任务特定的全监督模型，但是在其他涉及多种数据模态的地理任务上，现有的基础模型仍然不如基于任务特定的模型表现。因此，通过处理不同的地理数据模态，建议可能性使用能够通过地理对齐来推理各种类型的地理数据的多模态基础模型来应对地理人工智能挑战的多模态特征。

    Apr, 2023

  • 基础模型的训练和服务系统：综合调查

    本文全面探讨了基础模型的训练和服务方法，提供了详细的分类，并总结了挑战和未来发展方向。通过全面的讨论和分析，为未来的研究和应用提供了坚实的理论基础和实践指导，促进基础模型系统的持续创新和发展。

    Jan, 2024

  • 基于 Foundation Model 的系统设计框架

    本研究提出了一个基于基础模型的系统分类法，涉及预训练和微调，基于基础模型的系统的体系结构设计以及负责任的 AI-by-design。该分类法为基于基础模型的系统设计提供了具体的指南，并突出了设计决策带来的权衡。

    May, 2023

  • 基础模型在推进自动驾驶车辆方面的前景角色

    基于人工智能的大规模基础模型在自主驾驶中具有着巨大的应用潜力，能够提升场景理解和推理能力，增强语言和行动命令的认知推理，并改善自主驾驶系统的准确性和可靠性。同时，通过自我监督学习范式下的大规模数据，世界模型可以生成看似真实的未见过的驾驶环境，促进对道路使用者行为的预测和驾驶策略的离线训练，从而提高自主驾驶的安全性和处理长尾分布问题的能力。

    Dec, 2023

  • 城市生成智能 (UGI): 体质城市环境中的代理平台

    城市环境面临快速城市化带来的交通拥堵、污染和社会不平等等挑战，通过整合大型语言模型进入城市系统，提出了一种新的城市智能范式，以解决这些挑战，并模拟复杂的城市系统，达到理解和管理城市复杂性的目的。

    Dec, 2023

  • 智能农业中的基础模型：基础、机遇和挑战

    本研究旨在探索基于基础模型（foundation models）在智能农业领域的潜力，通过回顾计算机科学领域的最新研究，并将其归类为语言基础模型、视觉基础模型、多模态基础模型和强化学习基础模型，本文提出了农业基础模型的发展过程和潜在应用及其在模型训练、验证和部署过程中可能面临的挑战，旨在通过引入农业基础模型这一有前景的范式，显著减少对大规模标记数据集的依赖，同时提高农业人工智能系统的效率、效果和泛化能力。

    Aug, 2023

  • 基础模型简介：历史、社会和技术焦点

    本文介绍了基础模型，深度学习中通过模型大小和训练数据广度和大小的扩展可以对未来的 AI 开发造成破坏。基础模型在各种任务领域（如自然语言处理和计算机视觉）中实现了最先进的性能，并且通过进一步的改进常常得到更好的表现。此外，模型的单一化可能会将众多特定任务的模型替换为由少数公司控制的更少数量的大型模型，从而导致对 AI 的权力和控制的转移，并出现新兴的行为方式：上下文学习。

    Dec, 2022