认知科学的一个关键挑战是解释如何从有限经验中获得抽象概念，本文讨论了一种最近出现的观点，该观点提出了一个称为关系瓶颈的归纳偏置，通过利用这种方法在数据高效的方式下诱导抽象，强调其作为人类思维和大脑中抽象概念获取的候选模型的潜力。

Sep, 2023

本研究探讨了在深度学习中通过将关系和感觉信息分隔，以及引入归纳偏差来改善系统的推理性能，并提出了基于相似性分数的简单架构 -- Compositional Relational Network (CoRelNet), 增强了模型的鲁棒性，提高了关系计算的分布外泛化能力。

Jun, 2022

本文提出结构化表示法和计算方法是实现人工智能与人类智能相似的能力的关键，通过使用深度学习体系结构内的关系感应偏差，介绍一种新的人工智能工具箱构建模块 -- 图形网络，它支持关系推理和组合推广，为推理提供更复杂、可解释和灵活的模式。

Jun, 2018

该研究针对深度神经网络在社交网络分析等结构化领域表现不佳的问题，提出了一种新方法，即基于关系随机游走的特征和参数共享的关系神经网络。实验证明，该方法在多个标准关系数据集上的表现优于多种神经网络和统计关系模型。

Aug, 2019

本研究探讨当下深度学习系统在处理物体分类、语言处理及游戏上表现出色，但却不能构建或修改建筑块等复杂系统，我们认为这是由于这些系统缺乏 “关系归纳偏置”，即一种可以推理物体间关系并根据场景结构作出决策的能力。本文研究了涉及胶合引起的稳定的建塔任务，通过引入一个使用物体及关系中心的视觉与策略表达方式的深度强化学习代理来验证该假设。结果表明，这些结构化的表达方式允许代理赢过人类及其他机器学习方法，这表明关系归纳偏置对于解决结构化推理问题及构建更智能、灵活的机器是重要组成部分。

Jun, 2018

我们通过调整表示分布的熵，训练神经模型生成一系列离散表示，并在微调实验中展示了将表示调整到任务适当复杂度水平支持最高微调性能，并通过离散表示的可视化帮助用户在下游任务中识别适当的复杂度水平，这为利用人类洞察力快速微调模型指明了一个有希望的方向。

Oct, 2023

该研究介绍了一个名为 ConceptWorld 的环境，用于生成通过逻辑领域特定语言定义的构成和关系概念的图像。研究测试了标准神经网络和关系网络的泛化能力，并提出了一个潜在的基准模型，以鼓励在构成和关系领域有效泛化的模型的发展。

Jun, 2020

人类对抽象结构的识别和操作能力十分出色，尤其在几何领域中显得更为明显。最近的认知科学研究表明，神经网络并没有共享这种能力，得出结论认为人类的几何能力来自人类心智表示中的离散符号结构。然而，人工智能领域的进展表明，经过标准架构的扩展模型规模和训练数据量后，神经网络开始表现出更类似人类推理的能力。在本研究中，我们重新审视认知科学对几何视觉处理的实证结果，并确定了几何视觉处理中的三个关键偏见：对复杂性、规律性和部分与关系的感知敏感性。我们测试了从文献中探索这些偏见的任务，并发现在人工智能中使用的大型预训练神经网络模型表现出更类似人类的抽象几何处理能力。

Feb, 2024

本文提出了一种结合关系逻辑表示和神经网络学习的方法，通过关系规则和反映给定训练或测试关系实例结构的深层神经网络的组合实现层次关系建模，从而实现对潜在关系概念的学习，该方法在 78 个关系学习基准测试中表现良好。

Aug, 2015

本文研究了深度神经网络的特征表示瓶颈，从输入变量在 DNN 中编码的交互复杂性的角度进行探讨，发现 DNN 更可能编码过于简单和过于复杂的交互，并且通常无法学习中等复杂度的交互。该现象被称为特征表示瓶颈，本文从理论上证明了其根本原因，并提出了一种损失函数来促进或惩罚特定复杂度的交互的学习，并分析了不同复杂度交互的表示能力。

Nov, 2021