Nov, 2023

神经 GPT：为脑电图开发基础模型

PDF
TL;DR为应对脑机接口任务中的电脑断层扫描（EEG）数据稀缺和异质性，以及利用大规模的公共数据，我们提出了神经 - GPT，这是一个由 EEG 编码器和 GPT 模型组成的基础模型。该基础模型在大规模的公共 EEG 数据集上进行自监督任务的预训练，学习如何重构 EEG 中的掩码块。然后，我们在仅有 9 个受试者的运动意象分类任务上对基础模型进行微调。实验证明，应用基础模型可以显著提高分类性能，相比从头开始训练的模型，这提供了基础模型先进泛化能力和应对数据稀缺性和异质性挑战的能力的证据。
发现论文，激发创造
  • MEG 基础 GPT 模型

    使用深度学习技术，以大量未标记数据预训练模型，并在特定任务上进行微调，对大脑信号进行建模比常规线性自回归模型具有更好的建模能力，其中 GPT2 模型在时间、空间和频谱特征方面更好地重现了实际数据和任务数据的诱发活动。

    Apr, 2024

  • EEG-GPT: 大型语言模型在脑电波分类与解读中的能力探索

    EEG-GPT 是一种统一的脑电图分类方法，利用大型语言模型的进展实现了在多尺度脑电生理理解和分类能力方面出色的性能，同时提供透明和可解释的逐步验证过程，从而在临床环境中提高了可信度。

    Jan, 2024

  • EEGFormer：面向可迁移和可解释的大规模 EEG 基础模型

    通过自监督学习方法，本文介绍了一个新颖的脑电图基础模型 EEGFormer，能够在各种下游任务中学习出可适应的通用表示，并通过自监督学习展示了可转移的异常检测性能和有价值的模式解释。

    Jan, 2024

  • 深度表示学习用于开放词汇的脑电图到文本解码

    使用预训练语言模型对无创脑机接口（BCI）通过脑电图（EEG）信号进行解码的潜力进行了研究，提出了一个具有先进表示学习方法的无创脑电记录的端到端深度学习框架，并使用新的评估指标验证了该框架在解码效果方面的优越性。

    Nov, 2023

  • 元转移的自监督知识：用于创伤后癫痫预测的基础模型

    通过深度学习和自我监督学习相结合的训练策略，我们提出了一种基础模型来改善将正常特征推广到临床特征，以实现从创伤性脑损伤后的数据对创伤性癫痫的预测等临床任务，并在神经系统疾病分类任务和零样本学习预测创伤性癫痫的应用中验证了该策略的有效性。

    Dec, 2023

  • EEG2TEXT: EEG 预训练和多视角变压器下的开放词汇脑电图到文本解码

    通过使用 EEG2TEXT 方法，借助 EEG 预训练和多视图变压器，能够从脑电图信号中提取更准确的开放词汇解码，并在绝对 BLEU 和 ROUGE 得分上超过现有基线方法高达 5%，显示出高性能开放词汇脑机接口与文本系统用于促进交流的巨大潜力。

    May, 2024

  • ChatGPT-BCI: 使用 GPT、EEG 和眼动生物标志的语义推理阅读理解的词级神经状态分类

    通过联合分析大型语言模型、眼动数据和脑电图数据，本研究旨在研究人脑在阅读时对具有不同关联程度的关键词的词语的处理方式，并用特征工程方法改善相关脑电图数据的分类，从而为人类的认知能力和人工智能领域提供有价值的洞察，并为发展潜在的阅读辅助技术提供指导。

    Sep, 2023

  • BENDR：使用变压器和对比自监督学习任务从海量脑电数据中学习

    本文着眼于通过自我监督学习和适应语言建模技术来发展基于深度神经网络的脑电建模技术，建立起一个单一的预训练模型，用于建模不同硬件、不同受试者和不同任务的全新脑电图序列记录，从而取得较好的脑机接口和脑电分类性能。

    Jan, 2021

  • 深度特征学习 EEG 信号：通过启用脑电文本输入实现思维转文字

    提出了一种基于深度神经网络的 MI-EEG 分类方法，采用联合卷积循环神经网络同时学习低维稠密嵌入的强鲁棒高级特征，消除多种伪迹。实验证明，该方法在 MI-EEG 数据集上的分类精度达到了 95.53％，并应用于具体的 BCI 系统中，实现了打字操作。

    Sep, 2017

  • 大型 Transformer 模型在 EEG 学习中表现更好

    我们展示了从图像和文本中预训练的转换器模型能够直接微调为基于脑电图的预测任务，并提出了 AdaCE 模块，用于将 EEG 数据转换成图像和文本形式以进行微调，取得了最先进的性能。

    Aug, 2023