大规模基础模型与生成型人工智能用于大数据神经科学
本文介绍了基础模型,深度学习中通过模型大小和训练数据广度和大小的扩展可以对未来的 AI 开发造成破坏。基础模型在各种任务领域(如自然语言处理和计算机视觉)中实现了最先进的性能,并且通过进一步的改进常常得到更好的表现。此外,模型的单一化可能会将众多特定任务的模型替换为由少数公司控制的更少数量的大型模型,从而导致对 AI 的权力和控制的转移,并出现新兴的行为方式:上下文学习。
Dec, 2022
提出将生成模型,特别是 LLMs 与非结构化文本数据源相结合,以产生信息技术工件,从而帮助业务利益相关者了解市场状况和自身定位,提供量化洞察,以改善未来前景。
Aug, 2023
提出了图基础模型(GFMs)的概念,并对其关键特征和技术进行首次全面阐述,然后将现有工作根据其依赖性分为三类,即基于图神经网络和大语言模型。本文不仅提供了对当前图基础模型领域的综合概述,还讨论了这一发展中领域的潜在研究方向。
Oct, 2023
应用人工智能和深度学习在智能制造领域仍面临挑战,大规模基础模型(LSFMs)能够解决深度学习面临的挑战,并显示出强大的泛化能力,在智能制造中呈现出广泛应用的潜力。
Dec, 2023
本研究提出了一个基于基础模型的系统分类法,涉及预训练和微调,基于基础模型的系统的体系结构设计以及负责任的 AI-by-design。该分类法为基于基础模型的系统设计提供了具体的指南,并突出了设计决策带来的权衡。
May, 2023
通过对基础模型在真实世界机器人应用中替换现有组件的主要影响进行概述,本文总结了基础模型在机器人领域中输入输出关系的观点,以及它们在感知、运动规划和控制方面的作用,并讨论了未来挑战和对实际机器人应用的影响。
Feb, 2024
本文解决了利用大型语言模型(LLMs)和基础模型设计人工智能(AI)本地网络的问题,提出了一种以无线为中心的基础模型架构,其中包括多模态模型,通过神经符号 AI 进行逻辑和数学推理,并展示了 RAG 在 LMMs 中的有效性,以及 LMMs 相对于 vanilla LLMs 在数学问题回答方面表现出的增强的推理能力。
Jan, 2024
该研究综述介绍了基础模型在自动驾驶中的应用,探讨了其在规划、仿真、三维物体检测以及多模态模型方面的作用,并提供了基于模态和功能对基础模型的分类,同时指出了现有模型与创新自动驾驶方法之间的差距,并提出了填补这些差距的未来研究方向和路线图。
Feb, 2024