Feb, 2024

通过预训练对比度 EEG-Text 掩蔽自编码器的可转移表示增强 EEG 到文本解码

PDF
TL;DR提出了一种新颖的 Contrastive EEG-Text Masked Autoencoder 模型，并借助预训练模块以及 EEG 流实现了 EEG 到文本的解码，实验结果表明在文本激发的 EEG 数据库上，该模型在 ROUGE-1 F1 和 BLEU-4 得分上分别超过现有技术 8.34％和 32.21％，这显示了该框架在大脑计算界面应用领域的潜力。
发现论文，激发创造
  • 深度表示学习用于开放词汇的脑电图到文本解码

    使用预训练语言模型对无创脑机接口（BCI）通过脑电图（EEG）信号进行解码的潜力进行了研究，提出了一个具有先进表示学习方法的无创脑电记录的端到端深度学习框架，并使用新的评估指标验证了该框架在解码效果方面的优越性。

    Nov, 2023

  • EEG2TEXT: EEG 预训练和多视角变压器下的开放词汇脑电图到文本解码

    通过使用 EEG2TEXT 方法，借助 EEG 预训练和多视图变压器，能够从脑电图信号中提取更准确的开放词汇解码，并在绝对 BLEU 和 ROUGE 得分上超过现有基线方法高达 5%，显示出高性能开放词汇脑机接口与文本系统用于促进交流的巨大潜力。

    May, 2024

  • 开放词汇电脑图文解码及零样本情感分类

    本文介绍了一种对开放词汇的象限脑电图 (EEG)- 到 - 文本序列到序列解码和零样本句子情感分类的方法，并借助预训练语言模型 (例如 BART) 建立一个新的框架，该模型能够处理来自不同受试者和来源的数据，并证明了该模型可以一旦足够的数据可用，有望成为高性能的开放词汇脑到文本系统。

    Dec, 2021

  • MAD：多对多 MEG 到文本解码

    本研究提出了一种使用多重对齐框架将脑电信号转换为文本的新方法，通过在 MEG 信号中直接生成全新的文本，实现了令人印象深刻的 BLEU-1 得分，极大地超越了基线模型，显示出实现 BCI 研究的潜力。

    Jun, 2024

  • 基于语义感知的课程学习在脑电图到文本生成中的对比学习

    本文介绍了使用课程多义对比学习策略来降低脑电信号与自然语言文本之间差异的挑战，其在多种模型和架构上均表现出优秀的实验结果并取得最新的最优结果，可广泛应用于单一对象和资源匮乏的情况，并且其在零样本学习方面具有鲁棒性。

    Jan, 2023

  • 揭示思维：脑电信号解码成文本之进展综述

    脑活动转化为文本的研究在近年来取得了显著的进展，许多研究人员致力于开发新模型将脑电信号解码为文本形式，但该领域仍面临许多挑战，需要进一步改进。该综述文章完整总结了脑电信号转化为文本的进展，包括该技术的成长、仍存在的问题、数据收集方法、信号处理步骤以及将这些信号转化为连贯文本的系统开发。通过解决这些方面，该综述旨在为广泛的用户群体开发更易接触和有效的脑机接口（BCI）技术做出贡献。

    Apr, 2024

  • 利用自然语言监督进行脑电图到语言解码和零样本情感分类的自举方法 (BELT)

    提出一种名为 BELT 的模型和学习框架，以大规模预训练语言模型和自然语言监督为基础，通过深度 Conformer 编码器和矢量量化编码器实现大脑信号到自然语言的转换，取得了在脑信号解码和零样本情感分类任务上的最新结果。

    Sep, 2023

  • 大型 Transformer 模型在 EEG 学习中表现更好

    我们展示了从图像和文本中预训练的转换器模型能够直接微调为基于脑电图的预测任务，并提出了 AdaCE 模块，用于将 EEG 数据转换成图像和文本形式以进行微调，取得了最先进的性能。

    Aug, 2023

  • 脑电图转文本模型是否有效？

    通过对开放词汇的脑电图到文本翻译模型进行关键性分析，发现以往的研究往往在评估过程中使用隐式教师强迫来人为提高性能指标，且缺乏对纯噪声输入下模型性能的关键性基准比较。我们提出了一种可区分真正从脑电信号中学习与仅仅记忆训练数据的模型的方法。我们的分析显示，模型在噪声数据上的性能可以与在脑电数据上相媲美。这些发现强调了 EEG-to-Text 研究需要更严格的评估方法，强调透明报告和与噪声输入进行严格基准测试。这种方法将能够更可靠地评估模型能力，并为健壮的 EEG-to-Text 通信系统铺平道路。

    May, 2024

  • 解码神经信号为语音

    在该论文中，我们首次探索了基于跨注意力的 “whisper” 模型，通过 MEG 信号直接生成文本，而无需教师强制，实现了令人印象深刻的 60.30 和 52.89 的 BLEU-1 得分，该论文还对有关神经解码任务的语音解码形成进行了全面的回顾。

    Mar, 2024