Dec, 2021

表征拓扑差异：用于比较神经网络表征的方法

PDF
TL;DR提出了基于 Representation Topology Divergence (RTD) 的数据表示比较方法，该方法是 few TDA-based practical methods 之一，可以应用于真实的机器学习数据集，用于对计算机视觉和 NLP 领域中的神经网络表示进行分析。
data representationrepresentation topology divergencemachine learningneural networkscomputer vision
发现论文，激发创造
  • 复发射神经网络的异质学习动力学的拓扑表示

    该论文介绍了一种使用 RTD（Representation Topology Divergence）比较 Recurrent SNN 模型之间分布式表示差异的新方法，探究了使用 STDP 训练的 RSNN 的学习能力以及异质性在突触动力学学习中的作用。

    Mar, 2024

  • 神经表征的拓扑和几何

    探索了拓扑脑表示相似性分析（tRSA），一种推广了脑表示相似性分析（RSA）的几何与拓扑摘要统计的家族，该方法可用于表征脑表示的拓扑特征并在噪音和个体变异性方面具有鲁棒性，在模拟和功能性磁共振成像（fMRI）数据上进行了评估。

    Sep, 2023

  • 基于点云的节点级拓扑表示学习

    通过离散拓扑学和微分几何的概念，我们提出了一种从复杂点云中提取节点级拓扑特征的新方法，并验证了这些拓扑点特征在合成和真实数据上的有效性以及其对噪声的鲁棒性。

    Jun, 2024

  • 拓扑距离：一种基于拓扑的方法来评估生成对抗网络

    提出了一种新的度量距离叫做拓扑距离，它可以比较真实数据和生成数据的几何和拓扑特征，同时也能够衡量生成对抗网络（GANs）的学习效果。在多种数据集上，与常用的测量方法进行了比较，证明了该方法是一种强有力的候选指标。

    Feb, 2020

  • 转移差异：量化表示之间的差异

    本研究提出了一种新的度量标准，即转移差异（TD），它基于下游任务表现来定义两个表示之间的差异，并展示了 TD 如何与下游任务相关，需要根据此类任务来定义指标，可用于评估不同训练策略的有效性。

    Jul, 2020

  • 卷积神经网络激活层拓扑结构实验观察

    本文应用拓扑数据分析的前沿技术，通过量化内部表示之间的差异和绘制网络层次结构图等方法，探索了用于图像分类的深度神经网络的可解释性，并提供了实验证据证明这些方法能够捕捉到有关模型过程的可贵结构信息。

    Dec, 2022

  • 探索深度神经网络中的异常表示

    这篇论文介绍了 DORA（Data-agnOstic Representation Analysis）框架，它利用网络内部的自我解释能力，提出了一种新的距离度量方法，对 DNNs 的表示空间进行了数据无关的分析。通过这个度量方法，可以检测到可能存在风险的异常表示，该方法最终应用于分析并识别了广受欢迎的计算机视觉模型中的人工异常表示。

    Jun, 2022

  • 深度神经网络的表示距离学习

    该研究提出了一种称为 “代表空间距离学习” 的方法，该方法可用于将一种深度神经网络模型学习到的内部表现空间应用到另一种模型之中，通过该方法可将学生模型的表现空间序列逐步拟合为更接近于教师模型表现空间的序列。通过将学生模型的表现空间逐渐接近于教师模型的表现空间，使用该方法可以显著提高可视化分类性能。未来该方法可以应用于将深度神经网络的任务约束和生物大脑的约束相结合，从而构建出可以复制生物大脑内部表现空间的深度神经网络模型。

    Nov, 2015

  • 一种信息理论，全尺度比较网络的方法

    提出了一种新的网络比较度量 —— 网络画像差异，该方法可以比较各种类型的网络并揭示多层和时间网络的重要特征。

    Apr, 2018

  • 深度神经网络在 3D 点云处理中的表示质量解释

    本文评估了编码在深度神经网络（DNNs）中的知识表征在 3D 点云处理方面的质量，并提出了一种将总体模型漏洞分解为旋转、平移、尺度和本地 3D 结构敏感性的方法，同时提出了评估编码 3D 结构的空间平滑性和 DNN 表征复杂度的度量方法。根据这样的分析，实验揭示了经典 DNN 的表征问题，并解释了对抗性训练的实用性。

    Nov, 2021