研究如何将深度神经网络通过生成具有相同表现的输入来捕捉感知的不变性，并通过敌对正则化程序与人类感知对齐来评估其安全可靠性。

Nov, 2021

本研究调查神经网络表示与人类认知表示之间对齐的因素，发现模型规模和架构对齐性没有实质性影响，而训练数据集和目标函数对齐性有更大的影响。研究发现，神经网络表示的线性转换有助于提高与人类相似性判断的一致性，但规模和多样性更大的数据集训练的模型也不能满足人类认知表示的需求。

Nov, 2022

通过信息理论分析和计算机视觉模型的实验，我们发现AI系统的世界表示与人类的相似度呈现U形关系，并表明高度相似的模型在少量数据、对抗攻击和领域转换方面更具鲁棒性和泛化能力，表明人类对齐通常是模型充分利用有限数据、鲁棒性和良好泛化的足够但不必要的条件。

Jan, 2023

研究发现，在保留本地结构的情况下对神经网络表示进行全局结构对齐可在各种少样本学习和异常检测任务中显著提高准确性。

Jun, 2023

本研究探讨类别学习和奖励学习实验中的泛化技能和预测人类行为的最有效表示方法，结果表明，深度学习模型从文本和图像数据中训练得到的表示方式优于仅从图像中训练得到的表示方式，强调了语言在塑造人类认知中的作用。

Jun, 2023

通过对非侵入式脑电图记录进行对齐，我们提出了“Re(presentational)Al(ignment)Net”，这是一个与人类大脑活动对齐的视觉模型，其与人类大脑表征更加相似，从而在人工智能领域取得了突破。

Jan, 2024

确定人类和人工智能之间的相似性和差异是机器学习和认知神经科学的重要目标。通过借鉴认知科学的最新发展，我们提出了一个通用框架，可在人类和深度神经网络 (DNN) 中产生可比较的表示。将此框架应用于人类和自然图像的 DNN 模型，揭示了一个低维度的 DNN 嵌入，包括视觉和语义维度。与人类不同，DNN 显示出视觉特征明显优于语义特征的优势，表明表示图像的策略存在分歧。尽管在硅中的实验显示 DNN 维度具有似乎一致的可解释性，但人类和 DNN 表示之间的直接比较表明它们在处理图像时存在重大差异。通过使表示直接可比较，我们的结果揭示了表示对齐的重要挑战，为提高它们的可比性提供了一种方法。

Jun, 2024

将机器学习模型的抽象与人类预期的抽象进行比较，量化其一致性，以提供对模型行为和数据集内容的更深入理解，并通过区分基于其与人类知识的一致性的错误，扩大当前模型质量指标的详细性，揭示改进现有人类抽象的方式。

Jul, 2024

本研究解决了深度神经网络与人类视觉表征之间的不对齐问题，尤其是在抽象层次上的差异。通过训练一个模仿人类判断的教师模型，并将其结构迁移到预训练的视觉模型中，提出了一种新的方法来改进模型表现与人类更接近的方式。结果表明，这些人类对齐的模型在多种相似性任务和机器学习任务中表现更佳，从而提高了泛化能力和对分布外情况的鲁棒性。

Sep, 2024

本研究解决了神经网络如何与人类认知过程对齐的问题，填补了这一领域的研究空白。通过探讨神经网络表示中的凸性与人机对齐之间的关系，研究发现预训练和微调的视觉变换模型中这两者存在相关性。这一发现提示凸区域与人类定义的类别相一致，潜在地提升了AI系统的可解释性和可靠性。

Sep, 2024