Apr, 2024

将预训练的 ViTs 与 TCNet 融合以增强脑电回归

PDF
TL;DR通过将预训练的视觉 Transformer（ViTs）与时域卷积网络（TCNet）相结合，以增强 EEG 回归的精度，本研究揭示了 ViTs 序列数据处理能力和 TCNet 优越的特征提取能力的核心，用于提高 EEG 分析精度，并分析了如何构建用于注意力机制的最佳块，以平衡计算速度和准确性的关系。研究结果表明，在 EEGEyeNet 的绝对位置任务中，均方根误差（RMSE）从 55.4 降至 51.8，超过了现有的最新模型，而不牺牲性能的同时，将模型的速度提高了一个数量级（高达 4.32 倍）。这一突破不仅在 EEG 回归分析中设立了新的基准，而且为将变换器结构与专门的特征提取方法用于多样化的 EEG 数据集开辟了新的研究方向。
electroencephalogram (eeg) analysisbrain-computer interfaces (bcis)vision transformers (vits)temporal convolutional networks (tcnet)eegeyenet's absolute position task
发现论文，激发创造
  • ViT2EEG: 基于混合预训练视觉 Transformer 的 EEG 数据利用

    本研究展示了在脑电图（EEG）回归任务上，以 ImageNet 为预训练数据的混合 Vision Transformer（ViT）模型的应用。通过与其他模型进行比较，包括没有 ImageNet 权重的相同结构 ViT 模型，在 EEG 数据上微调后，该模型表现出显著的性能提升。这一发现挑战了对模型泛化的传统理解，表明在合适的微调流程下，预先训练在看似无关的图像数据上的 Transformer 模型可以为 EEG 回归任务提供有价值的先验知识。这种方法的成功暗示了 ViT 模型在视觉任务环境中提取的特征可以轻松地转化为 EEG 预测建模的目的。我们建议不仅在神经科学和相关领域，而且在任何由实际、财务或伦理限制所限制的任务中采用这种方法。我们的结果揭示了预训练模型在与其原始目的明显不同的任务上的潜力。

    Aug, 2023

  • EEG-ITNet: 一种可解释的 Inception 时态卷积神经网络，用于运动想象分类

    提出了一种名为 EEG-ITNet 的端对端深度学习架构，用于分类运动和精神任务，与其他现有的端对端架构相比，在 BCI 竞赛 IV 中微调丰富的光谱，空间和时间信息，取得了高达 5.9％的分类准确度的提高。

    Apr, 2022

  • 基于 P300 脑机接口的模糊时间卷积神经网络在智能家居交互中的应用

    本文提出了一个名为 EEG-TCFNet 的模型，它结合了时间卷积网络（TCNs）、LSTM 单元和模糊神经块（FNB）以及三种不同的架构来处理 EEG 信号并实现 P300 波的分类，以构建用于智能家居交互的 BCI，研究结果表明，使用 FNB 的模型在分类准确性方面优于其他模型，并对于智能家居等自然环境的应用具有潜在的推广价值。

    Apr, 2022

  • 基于 EEG 的脑 - 计算机接口的紧凑卷积网络 EEGNet

    本文主要介绍一种基于深度卷积神经网络的脑 - 计算机接口通信模型 EEGNet，该模型考虑到不同 BCI 范式中 EEG 信号的特点，成功解决了不同信号间的分类问题。

    Nov, 2016

  • 基于 Transformer 架构的 EEG 注意力估计的时空分析

    本文提出了一种基于 transformer-based 网络的新型框架，用于从 EEG 信号中获取注意状态，进一步优化了特征提取方法和频带。该网络已在两个公共数据集上进行了训练和验证，并取得了比现有模型更高的效果，可应用于实际情况下，如评估注意力缺陷多动障碍 (ADHD) 症状或驾驶评估中的警觉度。

    Apr, 2022

  • 基于时间多通道 Transformer 的脑电癫痫发作预测

    本文介绍了两种基于 Transformer 架构的深度学习模型（TMC-T 和 TMC-ViT）用于癫痫发作预测，探讨了选取不同持续时间的 preictal 状态和样本数量对模型的影响，并通过使用 CHB-MIT 数据库中的原始 EEG 信号进行实验和统计验证，证明 TMC-ViT 模型优于卷积神经网络 (CNN) 等其他网络。

    Sep, 2022

  • Transformer 网络在原始 EEG 数据分类中的有效性

    本篇论文探讨了 Transformer 网络用于分类清洗和预处理后的脑电图（EEG）数据的有效性和性能，结果表明，基于 Transformer 的深度学习模型可以成功地消除对 EEG 数据特征提取的需求，实现了脑电图数据的高效分类。

    Feb, 2022

  • BENDR：使用变压器和对比自监督学习任务从海量脑电数据中学习

    本文着眼于通过自我监督学习和适应语言建模技术来发展基于深度神经网络的脑电建模技术，建立起一个单一的预训练模型，用于建模不同硬件、不同受试者和不同任务的全新脑电图序列记录，从而取得较好的脑机接口和脑电分类性能。

    Jan, 2021

  • 大型 Transformer 模型在 EEG 学习中表现更好

    我们展示了从图像和文本中预训练的转换器模型能够直接微调为基于脑电图的预测任务，并提出了 AdaCE 模块，用于将 EEG 数据转换成图像和文本形式以进行微调，取得了最先进的性能。

    Aug, 2023

  • MASA-TCN: 多锚空间感知时序卷积神经网络用于连续与离散脑电情绪识别

    利用电脑辅助情感识别 (EEG) 的主要场景有两种：离散标签的分类和连续标签的回归。虽然有很多算法用于分类任务，但回归任务的方法却很少。对于情感回归，标签在时间上是连续的。一种自然的方法是学习时间动态模式。在以往的研究中，使用长短期记忆 (LSTM) 和时间卷积神经网络 (TCN) 从 EEG 的特征向量中学习时间上下文信息。然而，EEG 的空间模式没有被有效提取。为了使 TCN 能够更好地进行回归和分类任务，并学习空间关系，我们提出了一种名为 MASA-TCN 的新型统一模型。空间感知的时间层使得 TCN 能够在 EEG 电极之间额外学习空间关系。此外，我们还提出了一种新的具有注意力融合的多锚块来学习动态时间依赖关系。在两个公开可用的数据集上的实验结果表明，MASA-TCN 在 EEG 情感回归和分类任务上的结果比最先进的方法更高。代码可在此 https URL 找到。

    Aug, 2023