深度神经网络的认知心理学：基于形状偏差案例研究

ICMLJun, 2017

深度神经网络的认知心理学：基于形状偏差案例研究

Cognitive Psychology for Deep Neural Networks: A Shape Bias Case Study

Samuel Ritter, David G.T. Barrett, Adam Santoro, Matt M. Botvinick

TL;DR本文提出利用认知心理学的问题描述、理论和实验方法来解决现代深度神经网络的可解释性问题，并将发展心理学中关于儿童如何学习物体名称的分析应用到 DNN 模型中。发现在 ImageNet 分类任务上，表现良好的一次性学习模型也存在类似人类倾向于按照形状而非颜色对物体进行分类的偏向，并证明了认知心理学工具揭示 DNNs 的隐藏计算属性的能力。

Abstract

deep neural networks (DNNs) have achieved unprecedented performance on a wide range of complex tasks, rapidly outpacing our understanding of the nature of their solutions. This has caused a recent surge of interest in methods for rendering modern neural systems more interpretable. In t

deep neural networks interpretability cognitive psychology one-shot learning shape bias

发现论文，激发创造

机器对形状与纹理的偏好：发育启发视角的探讨

该文使用类似于发育阶段的范式，检测了预训练神经网络在识别形状和纹理时的归纳偏好。实验结果表明，这些神经网络更倾向于基于形状而非纹理进行分类。

Feb, 2022

利用合成数据集：深度神经网络泛化中的形状偏向作用

最近的深度学习研究主要受制于使用基于越来越大数据集训练的大型模型。然而，对广泛数据集的需求增加引发了一些担忧。针对此问题，新的研究方向出现了，专注于创建合成数据以替代真实数据。在本研究中，我们调查了神经网络在合成数据集上训练时展示的形状偏差，作为合成数据质量的一个指标。具体而言，我们的发现有三个关键点：（1）形状偏差在不同的网络架构和监督类型之间存在差异，对其作为泛化的预测因素以及解释模型识别与人类能力差异的能力产生了怀疑。（2）仅依靠形状偏差来估计泛化是不可靠的，因为它与多样性和自然性纠缠在一起。（3）我们提出了一种将形状偏差解释为估计数据集中样本多样性的工具的新方法。我们的研究旨在阐明在深度学习中使用合成数据及其相关形状偏差的影响，解决有关泛化和数据集质量的担忧。

Nov, 2023

ImageNet 训练的 CNN 偏向于纹理；增加形状偏差可以提高准确性和鲁棒性

这篇文章通过对卷积神经网络（CNNs）和人类观察者在具有纹理 - 形状线索冲突的图像上进行实验，揭示了 CNN 在识别物体时更倾向于识别纹理而非形状的基本不同分类策略，同时表明将 CNN 在 Stylized-ImageNet 数据集上训练可以学习到形状为基础的表示，可以更好地拟合人类行为表现，同时具有提高物体检测性能和对各种图像扭曲的鲁棒性的优点。

Nov, 2018

评估卷积神经网络的形状偏差特性

本文探讨了卷积神经网络的形状偏差属性，通过使用将亮度反转的负图像等度量方法评估 CNNs 的形状偏差属性，进行大规模实验并研究了不同因素，如训练数据、模型架构、初始化和规则化技术，对 CNNs 形状偏差属性的作用。结果表明，CNNs 不会固有地表现出形状偏差，但是适当初始化模型或适当增强数据和使用批归一化技术，可以使 CNNs 学习和推广结构。

Mar, 2018

计算机视觉中的人类感知

本文研究计算机视觉、深度神经网络（DNN）、人类视觉感知和无体系结构视觉学习之间的联系，并发现 DNN 计算可用于估计感知损失，并与有趣的理论观点一致，即人类感知的特性是视觉学习无体系结构的结果。

Jan, 2017

使用神经网络捕捉视觉对象

本研究回顾了关于人类目标感知和深度神经网络模型在目标识别方面的相关工作，并探讨了这两个领域如何相互促进，提供了发展新实验任务和推动深度神经网络模型中的目标识别的基准的认知文献和实验任务。

Sep, 2021

用可神经映射的模型接近人类 3D 形状感知

了解人类对 3D 形状的推断在神经可映射计算架构中的基础，并强调未来研究的重要问题。

Aug, 2023

将深度网络特征应用于捕捉心理表征

使用深度神经网络进行物体分类，可以占人类相似性判断的重要部分，但不能捕捉到人类表现中的一些关键性质。我们开发了一种方法，将深层特征与人类相似性判断对齐，以获取可用于扩展心理实验范围的图像表示。

Aug, 2016

深度神经网络与人类之间的色彩感知差异

深度神经网络（DNN）在图像分类和物体识别任务中的表现令人印象深刻，然而它们对于颜色知觉等人类视觉基本方面的捕捉程度仍不清楚。本研究使用新型实验评估了 DNN 颜色嵌入的感知一致性，并通过在线调查评估了这些算法如何预测人类的颜色相似性判断。我们发现最先进的 DNN 架构，包括卷积神经网络和视觉变换器，所提供的颜色相似性判断与人类得出的（i）具有受控颜色属性的图像、（ii）从在线搜索生成的图像以及（iii）来自经典 CIFAR-10 数据集的现实世界图像存在显著差异。与我们检查的所有 DNN 相比，我们的基于小波分解的可解释和基于认知的颜色知觉模型提供更一致的颜色嵌入结果，更好地预测了人类的颜色判断。这些结果适用于在使用类似 DNN 体系结构进行训练的高级视觉任务（例如图像分类与图像分割）以及检查给定 DNN 体系结构中不同层的颜色嵌入时。这些发现在分析机器学习算法的感知表示和改进其作为人类视觉的认知合理模型的努力中创新了新的领域。机器学习、人类感知和具身认知的影响正在讨论中。

Sep, 2023

InBiaseD: 通过感知形状来改善归纳偏置蒸馏从而提高泛化性能和鲁棒性

提出了 InBiaseD 来提取感知偏倚和为神经网络带来形状意识。该方法通过偏差对齐目标来强制学习更通用的表示，从而减轻了深度神经网络中的一些缺点，如易受损的数据。 InBiaseD 通过无缝插入现有的对抗训练方案，对改善分类和鲁棒性之间的平衡起到了帮助的作用。

Jun, 2022