本研究使用元学习发现网络如何利用反馈机制和本地、仿生学习规则，以进行在线信用分配，并超越了现有的基于梯度的算法在回归和分类任务方面的性能，特别是在持续学习方面表现优异，结果表明存在一类生物可行的学习机制，不仅匹配梯度下降，而且还克服了其局限性。

Jun, 2020

该论文研究 “反馈对齐” 算法的数学特性，通过分析二层网络在平方误差损失下的收敛和对齐，证明在过度参数化的情况下，误差会以指数速度收敛，以及参数对齐需要正则化。该成果对我们理解生物学可行的算法如何不同于 Hebbian 学习方法，具有与非本地反向传播算法相当的性能提供了方法。

Jun, 2021

研究深度人工神经网络中的反向传播学习算法与大脑神经元突触可塑性规律的类比，介绍了不依赖于对称前向和后向突触权重的算法，提出通过加强权重符号一致性的反馈对准法的修改，可以实现与反向传播法相当的性能。这些研究结果表明，促进前向和反馈权重对准的机制对于深度网络的学习是至关重要的。

Dec, 2018

通过使用半环，我们将反向传播算法推广到神经网络的梯度图的其他可解释统计量的高效计算，以识别深度神经网络中的重要特征、组件和自注意机制的路径。

Jul, 2023

本文通过概率定义新的释义来重新诠释 W2V 生成的词向量中的线性行为，证明了线性关系存在，并确定了差错项。

Jan, 2019

该研究论文讨论了如何利用深度学习方法探测形态比拟关系，探究了其在跨语言上的适用性，并提出了建立多语言形态模型的可行性。

Aug, 2021

本文提出了一个深度学习框架来解决类比检测和解决两个关键问题，并在 morphological analogical proportions 数据集上进行了测试表明优于符号方法。文章总结了之前的研究，并结合了 ANNe 和 AE 嵌入模型。最终得出该模型在绝大多数情况下都优于其他方法，并提供了使用 DL 来处理类比问题的一般指南。

Mar, 2023

该研究通过关注数据的选择和呈现方式，研究神经网络在感知和推理原始视觉数据时如何诱导类比推理能力，并发现最健壮的类比推理能力是通过在输入域中对抽象关系结构进行对比学习而诱导的。

Jan, 2019

本文提出了一种参数共享方案，通过学习全局模板的参数张量的线性组合，定义卷积神经网络 (CNN) 的不同层。相比于传统的 CNN，我们展示了在标准图像分类任务上获得了可观的参数节省同时保持准确性的结果。同时，本文提出的卷积网络和循环网络的混合也可能代表了一种有益的架构偏见，可以在某些具有算法性质的合成任务上快速训练且在测试样本上拓展性更好。

Feb, 2019

本研究提出了一种广义神经网络，其中神经元和突触维护多个状态，通过基于链式法则的二值网络来推导出更新规则，并使用共享的低维 “基因组” 进行参数化，证明了该方法的泛化性和训练速度优于梯度下降优化器，可用于计算机视觉和合成任务。

Apr, 2021