基于对象的学习与槽混合模块
学习模块化的物体中心表示对于系统化的泛化至关重要。现有的方法在经验上显示出有前景的物体绑定能力，但理论上的可识别性保证相对较少。理解何时可以在理论上识别物体中心表示对于按槽位进行高维图像的扩展方法具有重要意义且具有正确性保证。为此，我们提出了一种概率化的槽位注意力算法，通过在物体中心化槽位表示上施加聚合混合先验，从而在没有监督的情况下提供槽位可识别性保证，达到等价关系。我们通过简单的二维数据和高分辨率成像数据集进行了我们的理论可识别性结果的实证验证。
Jun, 2024
本论文提出了一种新方法 Bi-level Optimized Query Slot Attention，利用可学习的查询初始化 Slot-Attention，配合双层优化方法，实现了在无监督图像分割和重构中最先进的结果，并展示了其在概念绑定和零样本学习中的巨大潜力。
Oct, 2022
基于对象的学习（OCL）通过使用槽来提取对象的表征，提供了灵活性和可解释性的卓越结合，以抽象化低级感知特征。在 OCL 中被广泛采用的方法是槽注意机制，它利用注意机制迭代地改进槽的表示。然而，大多数基于对象的模型，包括槽注意机制，在很大程度上依赖于预定义槽的数量。为了克服这一基本限制，我们提出了一种新颖的适应性自动编码器框架，其中引入了一种自适应槽注意机制（AdaSlot），根据数据的内容动态确定最佳槽的数量。我们的框架在各种数据集上进行了广泛测试，表现出与顶级固定槽模型相当甚至超过的性能。此外，我们的分析证实，我们的方法能够根据每个实例的复杂性动态调整槽的数量，为槽注意研究提供了进一步的探索潜力。
Jun, 2024
提出了一种将 slot attention 与分层 VAE 框架结合的生成模型 Slot-VAE，其能够生成具有高质量和准确的场景结构的样本效果优于基于 slot attention 的生成模型。
Jun, 2023
在本研究中，我们通过对基于槽的方法进行系统研究，以解决槽的数量选择对学习对象相关表示的影响问题，我们发现槽的数量选错会导致过度或不足分割的问题，并探讨了目标函数和注释实例级别等因素对改善问题的影响。
May, 2023
本研究提出了一种基于无监督条件化槽注意力和概率槽字典（PSD）的方法，利用抽象的物体属性向量作为关键字、参数化高斯分布作为相应值，来学习特定的物体级别条件分布，并在多个下游任务中展示了其在物体发现、组合场景生成和组合视觉推理方面的优势。在物体发现任务中，我们的方法表现出相似或更好的性能，并在组合视觉推理的少样本适应性任务中显著提高了场景构成能力。
Jul, 2023
利用因果表征学习和面向物体的学习相结合，通过修改 Slot Attention 架构，开发出了一种利用稀疏扰动进行弱监督的物体中心化架构，以更少的扰动成功解缠多个物体的属性。
Oct, 2023
本研究聚焦于提高物体图像生成的关键点到图像解码，为了达到高质量的视觉生成，提出了一种基于对象中心潜在扩散模型 SlotDiffusion，该模型在六个数据集上表现优异，并可用于现有的用于视频预测质量和下游时间推理任务的对象中心动力学模型，同时还展示了该模型和自监督预训练图像编码器在非约束性现实数据集上的可扩展性。
May, 2023
自我监督方法在学习高层语义和低层时间对应方面取得了显著进展，本文在此基础上进一步探索了整合这两个特征以增强以对象为中心的表示的可能性。我们提出了一种新颖的语义感知遮蔽插槽注意力模型，通过融合语义特征和对应关系图，有效地识别多个对象实例，达到了在无监督视频对象发现和密集标签传播任务上的有希望结果，展示了以对象为中心的分析的潜力。
Aug, 2023