Sep, 2023

基于认知启发的神经结构在视觉抽象推理中运用对比感知和概念处理

PDF
TL;DR我们介绍了一种新的神经架构，用于解决视觉抽象推理任务，受到人类认知的启发，特别是人类抽象推理经常在感知和概念处理之间交替进行，作为一种灵活、迭代和动态的认知过程。我们介绍了如何使用矩阵推理问题来解释这种新的对比感知 - 概念网络（CPCNet）的工作方式，以形式化问题的思维。在机器学习数据集 RAVEN 上的实验证明，CPCNet 相比之前的所有模型具有更高的准确性，同时使用了最弱的归纳偏差。我们还指出了原始 RAVEN 数据集中的显著且以前未被注意到的类别不平衡问题，并提出了一个新的变体 RAVEN--AB-RAVEN，该变体在抽象概念方面更加平衡。
neural architecturevisual abstract reasoningperceptual-conceptual networkmatrix reasoning problemsraven dataset
发现论文，激发创造
  • 基于特征的通用预测模型：感知和抽象推理的统一

    人类智能的一个特征是能够从有限的经验中推断出抽象规则，并将这些规则应用于陌生情境。本研究介绍了一个使用特征检测、仿射变换估计和搜索的算法方法来进行规则检测和应用，并在简化版的 Raven's Progressive Matrices 任务中展示了模型具有类似人类水平的一次性学习和符号推理能力。

    Mar, 2024

  • ViTCN：用于推理的视觉转换器对比网络

    提出了基于 Contrastive Perceptual Inference network (CoPiNet) 的 Vision Transformer Contrastive Network， 结合心理学、认知学和教育学，采用先进的 Vision Transformer 架构，从像素级输入和全局特征上进一步改进了机器处理和推理空间 - 时间信息在 RAVEN 数据集上的能力。

    Mar, 2024

  • 对比学习感知推断

    本文探讨了如何通过心理学、认知科学和教育学的思想来设计和训练一个置换不变的模型，以提高机器在空间 / 时间推理方面的推理能力。通过 Contrastive Perceptual Inference network (CoPINet) 的实验，我们证明了它在两个主要数据集上设置了新的技术水平，从而提高了机器在思维空间 / 时间推理方面的能力。

    Nov, 2019

  • 学习如何在视觉对象上进行推理

    探究对象为中心的编码器和变换推理模块是否能提高图像推理任务的效果，并发现其比传统以 Raven 智力测试为基础的任务特定归纳偏见更全面适用。

    Mar, 2023

  • 神经网络的抽象和推理：迈向机器的广泛泛化

    人工智能研究半个世纪以来一直试图复制人类的抽象和推理能力，创造出可以从一小组示例中学习新概念的计算机系统，在人类轻松掌握的情境下进行。然而，尽管特定神经网络能够解决一系列问题，但对于训练数据之外的广泛泛化，仍然是个难题。本文提出了几种新颖的解决方法，用于解决抽象与推理语料库 (ARC) 的问题。尽管竞赛的最佳算法仍然无法解决大多数 ARC 任务，并且依赖于复杂的手工规则，而不使用机器学习。我们重新审视了神经网络领域的最新进展是否能够在这个任务上取得进展，并提出了适应 ARC 的 DreamCoder 神经符号推理求解器。DreamCoder 自动编写特定领域的语言程序进行推理，并使用神经网络模拟人类直觉。我们提出了感知抽象与推理语言 (PeARL) 语言，使 DreamCoder 能够解决 ARC 任务，并提出了一种新的识别模型，显著改进了之前的最佳实现。我们还提出了一种新的编码和增强方案，使大语言模型 (LLMs) 能够解决 ARC 任务，并发现最大的模型可以解决一些 ARC 任务。LLMs 能够解决一组不同于现有解算器的问题，并为其他方法提供了一种有趣的补充方式。我们进行了集成分析，将模型结合起来以取得比任何单独系统更好的结果。最后，我们发布了 arckit Python 库，使未来对 ARC 的研究更加容易。

    Feb, 2024

  • 视觉抽象推理任务的深度非单调推理

    本文提出了一种非单调计算方法来解决视觉抽象推理任务，使用 RAVEN 数据集进行测试，并与现有单调深度学习模型进行比较，结果表明，该方法比现有单调深度学习模型更加有效。

    Feb, 2023

  • 矢量符号化架构中基于学习规则的视觉抽象推理的概率推断

    学习向量符号体系在解决抽象推理问题 (Raven's progressive matrices) 方面具有高效性和预测准确性。

    Jan, 2024

  • 推断和执行视觉推理程序

    本文采用模块化网络模型，使用神经网络实现程序生成器和执行引擎，通过反向传播和 REINFORCE 的训练方法，在视觉推理任务（CLEVR）上打破基线模型，表现显著优越，并在各种环境中具有更好的推广性能。

    May, 2017

  • 双对比网络实现有效的抽象推理

    通过使用神经网络来解决 “渐进矩阵” 谜题，本研究旨在提高机器的抽象推理能力。我们提出了一种简单而有效的双重对比网络（DCNet）来利用谜题的固有结构。实验结果表明，DCNet 在性能上优于最先进的方法。

    May, 2022

  • 面向视觉识别与推理的统一神经网络架构

    图像识别和推理是视觉理解的两个支柱，最近的研究表明，多任务变压器模型可以在视觉识别和推理中提供统一的神经网络架构，通过探索不同的识别任务、数据集和归纳偏好，我们发现对象检测对推理是最有益的任务。

    Nov, 2023