Mar, 2024

D4C 手套训练：通过分布和圈定概念解决 RPM 和 Bongard-logo 问题

PDF
TL;DR本研究在抽象推理领域，特别是针对 Raven 的渐进矩阵和 Bongard-Logo 问题，提出了显著的进展，包括重新定义概念边界并构建高级概念和低维表示之间的桥梁的 D2C 方法，通过度量图像表示的分布和 Sinkhorn 距离来实现优秀的推理准确性的 D3C 创新方法，以及通过限制分布距离提高计算效率并保持高准确性的 D3C-cos 方法。同时，引入将 D3C 和 D3C-cos 集成的 RPM 基准网络 Lico-Net，通过估计和限制规律性表示的分布来解决问题求解和可解释性挑战并取得最先进的性能。最后，通过对比 D2C，针对 RPM 和 Bongard-Logo 问题，采用对抗性方法进一步完善概念边界的 D4C 呈现了显著的改进，推动了抽象推理领域，为长期存在的问题提供了新的视角和实用解决方案。
abstract reasoningraven's progressive matricesbongard-logo problemsconcept boundarieshigh-level concepts
发现论文，激发创造
  • 建模概率模型解决邦加德 - 标志问题

    本研究介绍了 PMoC，这是一种为 Bongard-Logo 问题量身定制的概率模型，通过构建独立的概率模型实现了高准确性的推理。此外，我们还提出了 Pose-Transformer，这是一种专为复杂的抽象推理任务设计的增强型 Transformer-Encoder，包括 Bongard-Logo、RAVEN、I-RAVEN 和 PGM。Pose-Transformer 结合了位置信息学习，受胶囊网络中的姿势矩阵启发，增强了其对图像数据处理中的局部位置关系的关注。当与 PMoC 集成时，它进一步提高了推理准确性。我们的方法有效地解决了与抽象实体的位置变化相关的推理困难，在 RAVEN 的 OIG、D3×3 子集和 PGM 数据库上超过了之前的模型。本研究对于推进 AI 在抽象推理和认知模式识别方面的能力具有重要贡献。

    Mar, 2024

  • 双对比网络实现有效的抽象推理

    通过使用神经网络来解决 “渐进矩阵” 谜题，本研究旨在提高机器的抽象推理能力。我们提出了一种简单而有效的双重对比网络（DCNet）来利用谜题的固有结构。实验结果表明，DCNet 在性能上优于最先进的方法。

    May, 2022

  • Bongard-LOGO: 人类水平的概念学习和推理新基准

    通过提出 Bongard-LOGO 基准来评估人类概念学习和推理，我们展示了先前方法的不足之处，并讨论了适用于解决此类基准的一般视觉推理架构的研究方向。

    Oct, 2020

  • Triple-CFN：重构观念空间以增强抽象推理过程

    通过创新的网络设计来解决抽象推理问题，本研究引入了 Triple-CFN 方法来应对 Bongard-Logo 问题，通过隐式重新组织冲突实例的概念空间，实现了显著的推理准确性。此外，通过必要的修改，Triple-CFN 范式在 RPM 问题上取得了竞争性的结果。为了进一步提高在 RPM 问题上的性能，我们开发了显式结构化问题空间的 Meta Triple-CFN 网络，同时保持逐步模式的可解释性。Meta Triple-CFN 的成功归功于其对概念空间建模的范式，相当于对推理信息进行归一化处理。基于这一理念，我们引入了 Re-space 层，加强了 Meta Triple-CFN 和 Triple-CFN 的性能。这篇论文旨在通过探索创新的网络设计来促进机器智能的进步，为该领域的进一步突破铺平道路。

    Mar, 2024

  • ViTCN：用于推理的视觉转换器对比网络

    提出了基于 Contrastive Perceptual Inference network (CoPiNet) 的 Vision Transformer Contrastive Network， 结合心理学、认知学和教育学，采用先进的 Vision Transformer 架构，从像素级输入和全局特征上进一步改进了机器处理和推理空间 - 时间信息在 RAVEN 数据集上的能力。

    Mar, 2024

  • 有趣瓦伦泰恩：通过定义解决方案分布来解决视觉抽象推理问题

    该研究论文介绍了一种名为 Valen 的概率高亮模型，并提出了 Tine 方法和 SBR 方法，通过这些方法显著提高了 Valen 在解决视觉抽象推理问题方面的性能。

    Jul, 2024

  • 在真实图像上实现符号推理：标定概念和操作

    提出了 Calibrating Concepts and Operations（CCO）方法，旨在通过学习概念嵌入矢量和操作校准器解决真实图像数据中长尾概念分布和推断步骤不平等重要性的问题，并在真实世界数据集 GQA 上大幅提升神经符号方法的性能。

    Oct, 2021

  • 基于 VSA 分布式表示的学习归纳推理

    我们介绍了一种具有上下文感知的 Abductive Rule Learner（ARLC）模型，它基于 Learn-VRF 解决抽象推理任务。ARLC 具有新颖且更广泛适用的训练目标，用于推断推理，能够在解决 Raven's progressive matrices（RPM）时提供更好的可解释性和更高的准确性。ARLC 允许编程的领域知识以及学习数据分布的规则。我们在 I-RAVEN 数据集上评估 ARLC，在内分布和未曾见过的属性 - 规则对测试中展示出最先进的准确性。尽管具有数量级更少的参数，ARLC 超越了神经符号化和连接主义基线，包括大型语言模型。我们通过在程序化知识之上逐渐学习示例来验证 ARLC 对后程序化训练的稳健性，这只会提高其性能，而不会导致程序化解决方案的灾难性遗忘。我们验证了 ARLC 从 2x2 RPM 星座到未见星座的无缝迁移学习。

    Jun, 2024

  • BDC-Adapter: 布朗运动距离协方差在视觉语言推理中的改进

    本研究提出了一种基于 Brownian 距离协方差的 BDC-Adapter 方法，通过模拟所有可能关系以测量特征依赖性，在执行分类任务时可以灵活处理非线性关系并充分表征独立性，实验证明其在性能上大幅超过了当前最先进的方法。

    Sep, 2023

  • 学习如何在视觉对象上进行推理

    探究对象为中心的编码器和变换推理模块是否能提高图像推理任务的效果，并发现其比传统以 Raven 智力测试为基础的任务特定归纳偏见更全面适用。

    Mar, 2023