Mar, 2024

学习可学习社区感知的大脑连接组分析的变压器与令牌聚类

PDF
TL;DR通过神经科学研究，本文提出了一种基于 Transformer 架构的令牌聚类脑模型（TC-BrainTF）来联合社群聚类和分类，通过在神经考察数据集上进行严格测试，显示出了 TC-BrainTF 模型在识别自闭症谱系障碍（ASD）和分类性别方面的准确性提高，并展示了所设计的 TC 模块的效果和对神经科学解释的相关性。
neuroscientific researchbrain networkfunctional communitiestoken clusteringtc-braintf
发现论文，激发创造
  • 社区感知变压器用于 fmri 连接组自闭症预测

    使用功能性磁共振成像 (fMRI) 构建大脑功能连通图能够帮助理解和诊断自闭症谱系障碍 (ASD) 的特点，进而提高治疗效果。提出了一种层次化的局部 - 全局 Transformer 架构 Com-BrainTF，能够学习到考虑社群内外关联的节点表示，并在 ASD 预测任务中取得比最先进架构更好的性能，拥有高可解释性。

    Jun, 2023

  • 脑网络变换器

    本文探讨了基于 Transformer 模型的脑网络分析方法。通过将脑网络构建为固定大小和顺序的图形，使用连接特征提供自然低成本的位置信息，学习不同个体之间具有高预测性的特征强度。基于自监督软聚类和正交投影的正交聚类读取操作包含确定相似行为的基础功能模块，导致具有区分性的簇感知节点嵌入和信息丰富的图嵌入。该方法在公开 ABIDE 和经过限制的 ABCD 数据集上实现了明显的改善，代码实现可以在该 https URL 获取。

    Oct, 2022

  • 基于 Transformer 的脑网络分析层次聚类

    本文提出了一个新的可解释性变换器模型，用于联合分层聚类识别和脑网络分类，以实现对脑区功能组织的可行洞察。

    May, 2023

  • 超越 ' 快照 ': 基于脑片段化图形转换器的纵向脑功能连接图嵌入

    本研究提出了第一个对脑部功能连接轨迹进行嵌入的可解释框架，即脑部 TokenGT，该方法在神经变性疾病诊断和预后方面的表现优于所有其他基准模型，同时提供了出色的可解释性。

    Jul, 2023

  • 不是所有令牌都相等：通过令牌聚类变换器进行人类中心的视觉分析

    本文介绍了一种名为 token clustering transformer 的新型视觉 transformer 模型，它可以有效处理不同区域的特征提取问题，在多种人体相关任务上表现出了不俗的性能。

    Apr, 2022

  • 大规模动态脑连接图的图表示学习与 Transformer

    使用图变换器学习动态功能连接性的表示，实验证明我们的方法在基于 fMRI 数据提取的功能连接性的性别分类和年龄回归任务中优于竞争基准。

    Dec, 2023

  • 通过双缩放器解构空间 - 时间功能性脑网络

    本论文提出了一种新的双变压器框架，可以同时推断空间和时间维度下的共同和个性的功能网络，该方法应用于人体连接组项目（HCP）运动任务 - fMRI 数据集，并成功识别出多个共同脑网络和一组个体特异的网络。

    Apr, 2022

  • 自注意力动态中群集的出现

    本文将 Transformer 视为相互作用的粒子系统，描述了当权重不随时间变化时，学习表示的几何特征，证明了表示中的粒子会在时间趋于无穷时聚集到特定的极限对象，这取决于值矩阵的谱。同时，在一维情况下，证明了自我关注矩阵收敛于低秩布尔矩阵。这些结果的组合在数学上证实了 Vaswani 等人的经验观察，即在 Transformers 处理一系列标记时会出现 “leader”。

    May, 2023

  • 传感器失效下的泛化性能：Tokenization + Transformers 实现更健壮的潜空间

    通过对神经科学实验中的时间序列模型和传感器故障的研究，发现离散时间序列标记器和转换模型能够在各种泛化性能情况下优于或与卷积神经网络相匹配，并通过对标记器的潜在编码簿的分析发现标记化能够实现泛化。

    Feb, 2024

  • BrainNPT：用于脑网络分类的 Transformer 网络预训练

    本文提出了一种基于 Transformer 的深度学习网络，名为 BrainNPT，用于脑功能网络分类，并探讨了使用未标记数据进行预训练的方法，结果表明使用预训练的 BrainNPT 模型可以显著提高分类表现。

    May, 2023