本文探讨了 “表示” 在环境中如何生成和对智能行为是否必要的问题，并设计了一种基于信息论的重要特征 “表示” 的量化测度 R，通过人工神经网络和隐藏马尔可夫门的网络求解一个分类任务，发现适应过程中表示的能力增强且会在一个 agent 的生命周期内形成其环境的表示，能够使 agent 在获取感官输入的基础上表现复杂的、依赖于语境的行为。

Jun, 2012

本文提出了一个用于评估神经 NLP 模型成分表示性质的框架，并使用探查分类器进行具体操作，从而为科学哲学家和 NLP 从业人员提供了一个测试性的场所来评估关于表示性质的说法，并提供了开展实证研究的新途径。

Jun, 2023

生物和人工信息处理系统形成世界的表示，以用于分类、推理、规划、导航和决策。研究这些不同系统形成的表示在多大程度上一致？不同的表示是否仍然可以导致相同的行为？系统如何修改其表示以更好地匹配另一个系统的表示？研究表示对齐的这些问题是当代认知科学、神经科学和机器学习最活跃的研究领域之一。为了改善不同领域之间的沟通，我们提出了一个统一的框架，可以作为研究表示对齐的研究人员之间的共同语言。我们从认知科学、神经科学和机器学习领域的文献中进行综述，并展示了以前的工作如何适应这个框架。最后，我们提出了在表示对齐方面的开放问题，进展可以使这三个领域受益。我们希望我们的工作能够促进跨学科合作，加速所有研究和开发信息处理系统的社区的进步。请注意，这是一篇工作论文，欢迎读者提出他们对未来修订的建议。

Oct, 2023

AI 模型中的表示正在收敛，通过调查文献中的多个例子和数据模态的比较，我们证明了对于不同的神经网络来说，它们对数据的表示方式变得越来越趋同。我们假设这种趋同性驱动着 AI 模型走向一种共享的统计模型现实，类似于柏拉图所提出的理念，我们将这种表示称为柏拉图表示，并讨论了几种可能的压力驱使其出现。最后，我们讨论了这些趋势的影响、局限性以及对我们分析的反例。

May, 2024

通过神经网络架构，将物理系统中不同方面的信息以最高效的方式传递，以实现表述不同实验条件下有用参数的分离及筛选， 实现了针对不同参数需求的物理系统抽象表示， 并且可以与强化学习相结合实现交互式场景下的物理系统表征学习。

Jan, 2020

在这项工作中，我们探讨了表示学习和解释所学的表示在机器学习和神经科学中的关键领域，并发现了表示与计算之间一些令人惊讶的脱节现象，这可能对相关工作构成挑战。我们通过创建数据集来匹配不同特征的计算角色，并操纵特征或数据的其他属性。我们训练各种深度学习架构以计算这些关于输入的多个抽象特征，并发现他们学到的特征表示在表示一些特征时存在系统性的偏倚，这些偏倚依赖于特征的复杂性、特征学习的顺序和特征在输入中的分布。同时我们还探索了这些偏差对体系结构、优化器和训练方案的影响。这些结果有助于描述基于梯度的表示学习的归纳偏差，同时突出了理解性或对比模型和大脑之间表示的关键挑战，即区分系统内部表示的外部偏差和计算上重要的方面。

May, 2024

该研究审查了通过提出分类法来将人类可理解的概念与神经网络中的内部表示相对应的研究，并发现了与模型可解释性目标有关的文学研究中的歧义，即是理解机器学习模型还是在部署领域有用的可行解释。

Dec, 2022

本文提出了一种基于伪核的新工具，用于分析和预测网络学习到的表示，通过验证其在简单测试案例上的使用，本文论证了该方法可预测权重初始化和训练计划对表示学习和下游并发多任务执行表现的影响。

Jul, 2023

自适应行为的核心是预测未来事件，本研究将强化学习理论与认知和神经科学研究整合，特别关注继承表示及其推广，表明特定类型的预测表示可能作为智能的多功能基石。

Feb, 2024

本文回顾了无监督特征学习和深度学习领域中的最新进展，讨论了学习良好的数据表示的适当目标，以及表示学习、密度估计和流形学习之间的几何联系。

Jun, 2012