软匹配距离：一种捕捉单神经元调谐的神经表示度量

Nov, 2023

软匹配距离：一种捕捉单神经元调谐的神经表示度量

Soft Matching Distance: A metric on neural representations that captures single-neuron tuning

Meenakshi Khosla, Alex H. Williams

TL;DR提出了一种基于 “软” 置换的度量方式，用于衡量具有不同大小的神经网络之间的距离，并避免了其他方式所遭受的违反直觉的结果，从而提供了对神经表示的补充几何洞见。

Abstract

Common measures of neural representational (dis)similarity are designed to be insensitive to rotations and reflections of the neural activation space. Motivated by the premise that the tuning of individual units may be important, there has been recent interest in developing stricter notions of representational (dis)similarity that require neurons to be indiv

neural representational similarity individual unit tuning distance metric neuron index permutations wasserstein distance

发现论文，激发创造

随机神经网络的表征差异度量空间

通过推广之前提出的形状度量方法，我们定量地比较了神经表示中的随机性差异，并发现神经生物学表示的随机几何形状分别类似于未经过训练和经过训练的深度网络表示。

Nov, 2022

神经表征的广义形状度量

为了理解生物和人工神经网络的操作，研究者们需要一个标准化的工具集来量化其结构等因素对神经表征的影响，这篇论文提出了一族量化表征不同神经网络之间相似性的度量空间，利用这个框架使得神经网络表征可以整合进任意的机器学习方法中，然后利用大规模生物和深度学习数据集来验证这些方法，最终找出了神经表征之间与结构和性能之间的关系。

Oct, 2021

计算不平衡分布之间的距离 —— 平距度量

我们提供了一个在任意维度计算平坦度量的实现。平坦度量，也称为双有界利普希茨距离，将众所周知的 Wasserstein 距离 W1 推广到分布总质量不相等的情况。这对于不平衡的最优传输任务以及样本大小重要或不可归一化的数据分布的分析非常重要。该方法的核心是基于神经网络来确定一个实现两个给定度量之间距离的最优测试函数。我们特别关注实现了从独立训练的网络中计算出的成对距离的可比较性。我们通过多个实验以及使用模拟数据来测试输出的质量。

Aug, 2023

学习非度量视觉相似度用于图像检索

本文提出通过神经网络建立非度量相似度函数，从而学习图像的相似度度量与提高基于实例的图像检索表现，实验结果表明该方法在一些标准的图像检索数据集上表现出色。

Sep, 2017

通过最优传输计算几何数据集之间的距离

本文提出了一种基于最优传输理论的数据集距离度量方法，不依赖于具体模型参数及训练数据，能够更好地比较数据集的相似度，与转移学习难度具有很好的相关性。

Feb, 2020

利用有限样本在神经表示上估计形状距离

通过推导上、下界，分析了高维网络表示的几何相似性测量方法的统计效率和估计不确定性，提出了一种新的矩法估计器，在高维特征空间中优于标准估计器，为高维形状分析奠定了统计理论基础。

Oct, 2023

距离感知归纳偏好：符合三角不等式的神经网络

本研究介绍了保证满足三角不等式的新型深度度量学习架构，能够更好地对图距离进行建模，并在多目标强化学习中具有更好的约束条件。