May, 2024

利用组合生成模型进行功能对象布置

TL;DR本研究通过引入 SetItUp 框架,研究了开发能够理解模糊指令以创建功能性物体布局的机器人的挑战。SetItUp 利用少量的训练示例和人类设计的程序草图来揭示特定场景类型的布局规则,并利用抽象的空间对象之间的图形表示将布局问题分解为两个子问题:学习来自有限数据的布局模式,以及将这些抽象关系与对象姿势相连接。通过利用大型语言模型(LLMs)提出新场景中的物体之间的抽象空间关系作为要满足的约束,并组合与这些抽象关系相关的扩散模型库来找到满足约束的物体姿势,验证了我们的框架在包含学习桌、餐桌和咖啡桌的数据集上,生成物理上合理、功能性且美观的物体布局的卓越性能。