May, 2024

EEG2TEXT: EEG 预训练和多视角变压器下的开放词汇脑电图到文本解码

PDF
TL;DR通过使用 EEG2TEXT 方法，借助 EEG 预训练和多视图变压器，能够从脑电图信号中提取更准确的开放词汇解码，并在绝对 BLEU 和 ROUGE 得分上超过现有基线方法高达 5%，显示出高性能开放词汇脑机接口与文本系统用于促进交流的巨大潜力。
brain-computer interfacemotor imageryelectroencephalographyeeg2textopen-vocabulary eeg-to-text decoding
发现论文，激发创造
  • 开放词汇电脑图文解码及零样本情感分类

    本文介绍了一种对开放词汇的象限脑电图 (EEG)- 到 - 文本序列到序列解码和零样本句子情感分类的方法，并借助预训练语言模型 (例如 BART) 建立一个新的框架，该模型能够处理来自不同受试者和来源的数据，并证明了该模型可以一旦足够的数据可用，有望成为高性能的开放词汇脑到文本系统。

    Dec, 2021

  • 深度表示学习用于开放词汇的脑电图到文本解码

    使用预训练语言模型对无创脑机接口（BCI）通过脑电图（EEG）信号进行解码的潜力进行了研究，提出了一个具有先进表示学习方法的无创脑电记录的端到端深度学习框架，并使用新的评估指标验证了该框架在解码效果方面的优越性。

    Nov, 2023

  • 揭示思维：脑电信号解码成文本之进展综述

    脑活动转化为文本的研究在近年来取得了显著的进展，许多研究人员致力于开发新模型将脑电信号解码为文本形式，但该领域仍面临许多挑战，需要进一步改进。该综述文章完整总结了脑电信号转化为文本的进展，包括该技术的成长、仍存在的问题、数据收集方法、信号处理步骤以及将这些信号转化为连贯文本的系统开发。通过解决这些方面，该综述旨在为广泛的用户群体开发更易接触和有效的脑机接口（BCI）技术做出贡献。

    Apr, 2024

  • 通过预训练对比度 EEG-Text 掩蔽自编码器的可转移表示增强 EEG 到文本解码

    提出了一种新颖的 Contrastive EEG-Text Masked Autoencoder 模型，并借助预训练模块以及 EEG 流实现了 EEG 到文本的解码，实验结果表明在文本激发的 EEG 数据库上，该模型在 ROUGE-1 F1 和 BLEU-4 得分上分别超过现有技术 8.34％和 32.21％，这显示了该框架在大脑计算界面应用领域的潜力。

    Feb, 2024

  • 深度特征学习 EEG 信号：通过启用脑电文本输入实现思维转文字

    提出了一种基于深度神经网络的 MI-EEG 分类方法，采用联合卷积循环神经网络同时学习低维稠密嵌入的强鲁棒高级特征，消除多种伪迹。实验证明，该方法在 MI-EEG 数据集上的分类精度达到了 95.53％，并应用于具体的 BCI 系统中，实现了打字操作。

    Sep, 2017

  • MAD：多对多 MEG 到文本解码

    本研究提出了一种使用多重对齐框架将脑电信号转换为文本的新方法，通过在 MEG 信号中直接生成全新的文本，实现了令人印象深刻的 BLEU-1 得分，极大地超越了基线模型，显示出实现 BCI 研究的潜力。

    Jun, 2024

  • 用于多模式自然语言处理的 EEG 脑电信号解码

    本文针对脑电信号对自然语言处理的潜力进行了大规模研究，利用多模态机器学习体系结构，发现滤波后的脑电信号对情感分析任务的性能提升最为明显，特别是在训练数据有限的情况下。

    Feb, 2021

  • 脑电图转文本模型是否有效？

    通过对开放词汇的脑电图到文本翻译模型进行关键性分析，发现以往的研究往往在评估过程中使用隐式教师强迫来人为提高性能指标，且缺乏对纯噪声输入下模型性能的关键性基准比较。我们提出了一种可区分真正从脑电信号中学习与仅仅记忆训练数据的模型的方法。我们的分析显示，模型在噪声数据上的性能可以与在脑电数据上相媲美。这些发现强调了 EEG-to-Text 研究需要更严格的评估方法，强调透明报告和与噪声输入进行严格基准测试。这种方法将能够更可靠地评估模型能力，并为健壮的 EEG-to-Text 通信系统铺平道路。

    May, 2024

  • 通过知识蒸馏和潜在扩散模型从脑电图解码视觉大脑表示

    本研究通过采用电脑脑波数据对 ImageNet 数据集中的图像进行分类和重建，提出了一种创新的方法。该研究不仅可以从神经活动中解码图像，还能仅利用脑电波数据生成图像的可靠重建，为个性化迅速反馈实验铺平了道路。

    Sep, 2023

  • 脑到文本解码中的数据污染问题

    非侵入性的认知信号解码为自然语言一直是建立实用脑 - 计算机接口（BCIs）的目标。最近的重要里程碑成功地将认知信号如功能磁共振成像（fMRI）和脑电图（EEG）在开放词汇设置下解码为文本。然而，如何在认知信号解码任务中拆分训练、验证和测试数据集仍然存在争议。本文对当前数据集拆分方法进行了系统分析，发现数据污染的存在大大夸大了模型性能。为了消除数据污染的影响和公平评估不同模型的泛化能力，我们提出了一种新的分裂方法用于不同类型的认知数据集（例如 fMRI，EEG）。我们还测试了在提出的数据集分裂模式下的 SOTA 脑 - 文本解码模型的性能作为后续研究的基准。

    Dec, 2023