Oct, 2023

利用有限样本在神经表示上估计形状距离

PDF
TL;DR通过推导上、下界，分析了高维网络表示的几何相似性测量方法的统计效率和估计不确定性，提出了一种新的矩法估计器，在高维特征空间中优于标准估计器，为高维形状分析奠定了统计理论基础。
geometric similaritynetwork representationsestimator uncertaintyshape distancehigh-dimensional shape analysis
发现论文，激发创造
  • 随机神经网络的表征差异度量空间

    通过推广之前提出的形状度量方法，我们定量地比较了神经表示中的随机性差异，并发现神经生物学表示的随机几何形状分别类似于未经过训练和经过训练的深度网络表示。

    Nov, 2022

  • 神经表征的广义形状度量

    为了理解生物和人工神经网络的操作，研究者们需要一个标准化的工具集来量化其结构等因素对神经表征的影响，这篇论文提出了一族量化表征不同神经网络之间相似性的度量空间，利用这个框架使得神经网络表征可以整合进任意的机器学习方法中，然后利用大规模生物和深度学习数据集来验证这些方法，最终找出了神经表征之间与结构和性能之间的关系。

    Oct, 2021

  • 数据形态：数据分布的内在距离

    用 Gromov-Wasserstein 距离的下界，通过对所有数据矩计算，基于内在和多尺度的方法对比数据流形。实验证明，该方法能够有效地识别不同维度未对齐数据的结构，并展示了在评估生成模型质量方面的功效。

    May, 2019

  • 少样本分类通用性预测的统计模型

    本文提出了一种基于高斯模型的特征分布参数估计方法，通过估计类间条件密度之间的距离实现对于少样本分类任务中泛化误差的预测，并在实验中表明该方法优于 leave-one-out cross-validation 等传统方法。

    Dec, 2022

  • MetaSDF: 元学习符号距离函数

    该论文讨论了神经隐式形状表示的基本概念，比传统的离散表示具有更好的记忆效率和更高的空间分辨率，并提出了一种基于梯度的元学习算法以提高形状空间的泛化能力，从而实现从部分或噪声观测数据中进行的几何重建。该方法在测试时间推断上比自动编码器的方法快一个数量级，同时超过基于编码器 - 解码器的池化网络集合编码器方法。

    Jun, 2020

  • 有限权重神经网络的逼近的测度论结果

    本文研究带有有限方向和阈值变化的单隐层神经网络的逼近性质，并且获得衡量该网络在连续函数空间中密度的充分必要条件。此外，我们针对特定构造的激活函数和固定数量的神经元证明了网络密度的结果。

    Apr, 2023

  • 特征空间中基于符号距离函数的零级集少样本学习

    该研究探讨一种新的基于点云的形状重建方法，利用隐式神经网络条件机制，并提出了一种应用梯度的元学习方法以从特征空间学习隐式神经签名距离函数。通过将输入点云作为支持上下文来训练解码器，该方法在隐式重建方面表现良好。

    Jul, 2022

  • 距离感知归纳偏好：符合三角不等式的神经网络

    本研究介绍了保证满足三角不等式的新型深度度量学习架构，能够更好地对图距离进行建模，并在多目标强化学习中具有更好的约束条件。

    Feb, 2020

  • 软匹配距离：一种捕捉单神经元调谐的神经表示度量

    提出了一种基于 “软” 置换的度量方式，用于衡量具有不同大小的神经网络之间的距离，并避免了其他方式所遭受的违反直觉的结果，从而提供了对神经表示的补充几何洞见。

    Nov, 2023

  • 使用引导权重的深度学习中的稀疏不确定性表示

    本研究提出一种基于感知器的设计方案，该方案结合了贝叶斯神经网络和深度集成等现代方法，通过在每层的权重矩阵中加入少量的诱导权重来降低存储和计算成本，同时保持较好的预测精度和不确定性估计能力。

    May, 2021