使用最新的理论框架，测试了大量预测视觉皮层活动的深度神经网络，并展示了多种几何特性导致通过回归测量的低神经预测误差，从而证明了仔细分解表征度量可以解释模型如何捕捉神经活动，并指导神经活动的改进模型。

Sep, 2023

本论文研究了如何通过修改人工神经网络 (ANN) 的谱特性来提高其识别准确率和对抗攻击的鲁棒性，发现对于密集型网络来说，较大的幂次方（大约为 2-3）可提高验证准确度和对抗性鲁棒性。

Aug, 2022

本文研究两种生物学机制在对抗性鲁棒性方面的角色，并且通过消融实验证明了非均匀采样和多重感受野存在能够提高神经网络对小的对抗性扰动的鲁棒性。

Jun, 2020

本文研究探讨了寻找更具有鲁棒性的体系结构对于减少深度学习模型在实际应用中对于输入数据微小扰动导致的错误决策的重要性。在评估鲁棒性方面，我们基于 NAS-Bench-201 进行神经网络架构搜索，对 6466 种不同的网络设计进行评估并引入数据库，发现对神经网络的拓扑结构进行优化可以显著提高其鲁棒性。

Jun, 2023

本文发现，尽管目前大多数人工神经网络都采用密集表示，然而生物神经网络却采用稀疏表示。我们研究发现，只要稀疏表示的维度足够高，那么这种表示在噪声和干扰方面会更加稳健。同时，我们还提出了一个关键的洞察力，即围绕稀疏向量的可操作体积与表示空间体积之比随着维数呈指数下降。我们提出了一种包含稀疏权重和激活的计算效率高的稀疏网络，并在 MNIST 和 Google 语音命令数据集上进行了模拟，结果表明，与密集网络相比，这种网络在保持竞争性准确性的同时，表现出了更强的稳健性和稳定性。本文讨论了这种稀疏性在准确性、噪声稳健性、超参数调整、学习速度、计算效率和功耗要求等方面的潜在优势。

Mar, 2019

神经坍缩是神经网络训练结束时的奇特现象，它的特征向量和分类权重收敛为一个非常简单的几何结构（简单形）。本研究探究这些简单形的稳定性质，发现它们容易受到小型对抗性攻击的影响，扰动的示例可以在简单形的顶点之间跳跃。此外，作者分析了对抗性扰动优化的网络几何结构，发现神经坍缩在这些情况下普遍存在，干净和扰动的表示形成一致的简单形，并构建了一个鲁棒的近邻分类器。通过研究神经网络内部坍缩量的传播，作者发现了鲁棒和非鲁棒机器学习模型的新特性，并表明早期层次与后期层次在扰动数据上保持可靠的简单形。

Nov, 2023

为了理解生物和人工神经网络的操作，研究者们需要一个标准化的工具集来量化其结构等因素对神经表征的影响，这篇论文提出了一族量化表征不同神经网络之间相似性的度量空间，利用这个框架使得神经网络表征可以整合进任意的机器学习方法中，然后利用大规模生物和深度学习数据集来验证这些方法，最终找出了神经表征之间与结构和性能之间的关系。

Oct, 2021

通过矩阵稀疏化的过程，我们提出了适用于神经网络剪枝的矩阵稀疏化算法，以保留关键神经权重，从而为神经网络剪枝提供一个统一的理论基础，并提高了深度神经网络的可解释性。

Jul, 2023

本研究通过几何角度研究深度学习系统在分布改变的情况下的鲁棒性表现，发现神经网络在解决任务时处理问题不确定性的方式高度依赖于数据表示方法，而这会影响学习者的几何和复杂性。此研究揭示了理解深度学习中建筑归纳偏差对于解决公平性、鲁棒性、和泛化性非常重要。

Apr, 2021

通过对生物数据的谱视角分析，发现在小图和大图之间存在一定程度的节点连接性分布差异，提出基于局部结构特征（即节点的局部接近中心度）指导学习过程的 SIA 策略可以提高 GNNs 在不同大小的图上的图分类性能。

May, 2023