通过平滑分析模型，本文提出了一种针对高度过完备情况（秩多项式于该张量维度）的张量分解的有效算法，且该算法具有鲁棒性，即使输入存在逆多项式误差，其表现依然可靠。该算法的线性独立性结果为我们在学习过程中应用张量方法提供了方便，为多视图模型和轴向高斯混合等学习问题的研究提供了更多的组件维度。

Nov, 2013

研究神经网络结构中信息的表达方式，引入了“表征复杂度”的概念，该概念基于信息论延伸，并测量了从多个神经元中访问信息的难度。 最终，作者将表征复杂度作为一种可解释性的统计量，用于分析神经表征的结构。

Sep, 2022

本文提出了神经潜在变量模型中的特征共享及对集合检测问题的解决方法，最终应用在网格细胞数据集上，以单一的集成建模框架恢复不同集合，推断环形潜在变量并预测神经调谐曲线。

Oct, 2022

研究发现，在训练良好的神经网络中观察到神经坍塌现象，并提出即使当看起来的神经表示坍塌时，微小的剩余变化仍然可以忠实准确地捕捉输入分布的内在结构。

Jun, 2023

通过减少神经元之间的高相关性来提高深度学习模型的泛化能力的方法被提出。该方法使用一个最小生成树的权重作为正则化项，权重是由相关性差异计算得出的。通过实验证明了这些正则化项的有效性，并且表明简单地最小化所有神经元之间的相关性得到的准确率反而更低，这表明冗余在人工神经网络中扮演了重要角色。此外，该方法实现了全连接神经元的拓扑持续性正则化，并且适用于分类、数据生成或回归等任何深度学习任务。

Aug, 2023

TENSORCODEC是一种用于一般张量的有损压缩算法，通过将神经张量列车分解与Tensor-Train分解相结合，将输入张量折叠成更高阶的张量，重新排序输入张量的模索以揭示可供NTTD利用的模式，实验结果表明TENSORCODEC在压缩效率、重建准确性和可扩展性方面具有优势。

Sep, 2023

通过学习高维矩阵和内层变换器语言模型，研究关联记忆机制、标度定律和统计效率的优化算法，通过数值实验验证理论结果和存储记忆联想的细粒度可视化。

Oct, 2023

我们提出了一种名为“动态网络架构”的新型智能系统架构，该架构依赖于稳定循环网络，并讨论其在视觉上的应用。我们的模型通过解释小区域网的较复杂特征为层次特征表示，与人工神经网络（ANNs）本质上不同。通过动态连接主义原则，我们的模型通过自组织机制，结合Hebbian可塑性和定期加强的抑制来稳定初级传入信号引起的神经激活。我们通过将线条片段组合成较长线条的实验，证明了DNA的可行性，即使在每个空间位置引入了高达59%的噪声，线条表示的构建仍然保持稳定。此外，我们展示了该模型能够从部分遮挡的输入中重建预期特征，并且可以推广到训练期间未观察到的模式。在本研究中，我们限制DNA在一个大脑皮层区域，并关注其内部机制，提供了关于一个独立区域的优势和不足的深入理解，并展望了未来工作如何通过组合多个区域来实现不变的物体识别。

Jul, 2024

利用人工神经网络中的向量嵌入和概率分布的条件独立性约束，我们描述了线性代数结构之间的基本对应关系。我们的框架旨在阐明数据表示中结构模式的出现，尽管这一现象被广泛认可，但仍缺乏坚实的形式基础。具体而言，我们引入了一种基于“交互分解”的组合结构特征，并且建立了存在这种结构的表示中的必要和充分条件。

Jul, 2024

本研究解决了现有方法在处理多视角数据时无法有效捕捉复杂非线性关系的问题。我们提出了一种基于非线性神经网络的方法，能够在保留数据几何特征的情况下，区分低维共享和私有潜变量。实验证明，该方法在多个模拟和真实数据集上优于其他竞争方法，能够为理解神经活动和动物位置提供清晰的解释。

Aug, 2024