Apr, 2024

费米 - 玻色机

TL;DR深度神经网络与人类认知处理不同,易受到对抗样本的干扰。我们设计了一种语义相关的表示学习方法,采用局部对比学习代替反向传播,其中相同标签的输入在隐藏层中收缩(类似于玻色子),而不同标签的输入则互相排斥(类似于费米子)。这种逐层学习是局部的,符合生物学的可行性。通过统计力学分析,我们发现目标费米子对距离是一个关键参数。此外,将局部对比学习应用于 MNIST 基准数据集表明,调整目标距离即原型流形的几何分离,可以大大减轻标准感知机的对抗性漏洞。