降维后的人类分类的理性模型
通过人类行为判断对 1854 个物体类别的图像进行稀疏、非负表示,找出表达分类、功能和感知属性程度的低维嵌入的尽可能解释人类行为判断可变性的潜在相似性结构,从而展示了这些嵌入形态在阐释人类概念物体表示方面的预测能力。
Jan, 2019
对于快速动物 vs 非动物分类任务,我们对不同阶段处理的视觉表示进行了分析,并发现人类的决策最符合中间阶段的预测结果。结果表明,人类可能依靠中等复杂度的视觉特征进行快速分类,并且现代深度网络模型所提供的视觉表示的复杂度可能超出人类在这种任务中使用的复杂度。
Jun, 2016
研究关系瓶颈对因式表示学习和处理灵活性的影响,并证明该瓶颈不仅改善了泛化和学习效率,而且与人类行为偏差相一致,从而促进了抽象表示的产生,使处理灵活性类似于符号。
Feb, 2024
研究表明,人类感知的量子结构的根源是对自下而上刺激与自上而下认知期望模式的调和,导致了感知的类别化扭曲现象并形成 “quanta”,可用量子原型理论进行建模,而这些 “quanta” 之间存在离散化的距离,导致它们的组合呈现出干涉图案。
Aug, 2022
大型语言模型的表示空间中如何编码语义含义是可解释性中的一个根本问题。本文研究了这一领域的两个基本问题:第一,如何表示类别概念,如 “哺乳动物”、“鸟类”、“爬行动物”、“鱼类” 等;第二,如何编码概念之间的层级关系,例如 “狗” 是 “哺乳动物” 的一种。我们通过扩展线性表示假设来回答这些问题,并发现了一个非常简单的结构:简单的类别概念被表示为单纯形,具有层级关系的概念在某种意义上是正交的,并且(作为结果)复杂的概念被表示为由单纯形的直和构成的多面体,反映了其层级结构。我们使用来自 WordNet 的数据验证了这些理论结果,在 Gemma 大型语言模型上估计了 957 个具有层级关系的概念的表示。
Jun, 2024
大规模语言模型可以生成与真实世界任务统计相匹配的认知任务,通过元学习框架导出适应这些任务的理性智能体,称为生态合理的元学习推理模型(ERMI)。ERMI 在两个不同实验中比其他七种认知模型更好地量化解释了人类数据,还在定性层面上与人类行为相符:(1)它发现与人类发现困难的任务相同,(2)它在学习过程中更依赖于基于范例的策略来确定类别,以及(3)它以人类类似的方式对未见过的刺激进行泛化。此外,我们展示了 ERMI 的生态有效先验使其在 OpenML-CC18 分类基准上达到最先进的性能。
Feb, 2024
本研究探讨类别学习和奖励学习实验中的泛化技能和预测人类行为的最有效表示方法,结果表明,深度学习模型从文本和图像数据中训练得到的表示方式优于仅从图像中训练得到的表示方式,强调了语言在塑造人类认知中的作用。
Jun, 2023
本文提出了一个基于范畴论的分类框架,其中介绍了自我状态意识的概念作为自我意识的类比,并使用图表进行代理间通信,并通过将目标设计为自我状态函数的输出来保证模型的友好性。
Mar, 2023
本文研究了视觉概念在表征层面和计算层面的复杂度变化,通过属性的可代表性计算得出结论:使用可代表性高的属性描述视觉概念,随着视觉复杂度的增加,描述长度呈倒 U 型变化。同时,研究发现,在基于规则和相似性的泛化中,视觉表征的复杂度对泛化方式的影响存在差异。
Nov, 2022
本研究提出了一种基于贝叶斯模型的方法,可以从背景知识中构造信息先验,将领域中的每个对象与高维欧几里得空间中的一个点相关联,并将概念表示为高斯分布,以解决对象不足时的模型建立问题。应用该模型对知识库完成任务进行预测,获得了更好的结果。
May, 2018