AAAIDec, 2021

开放词汇电脑图文解码及零样本情感分类

PDF
TL;DR本文介绍了一种对开放词汇的象限脑电图 (EEG)- 到 - 文本序列到序列解码和零样本句子情感分类的方法，并借助预训练语言模型 (例如 BART) 建立一个新的框架，该模型能够处理来自不同受试者和来源的数据，并证明了该模型可以一旦足够的数据可用，有望成为高性能的开放词汇脑到文本系统。
brain-to-text systemsneural networkselectroencephalographytext encoderpre-trained language models
发现论文，激发创造
  • EEG2TEXT: EEG 预训练和多视角变压器下的开放词汇脑电图到文本解码

    通过使用 EEG2TEXT 方法，借助 EEG 预训练和多视图变压器，能够从脑电图信号中提取更准确的开放词汇解码，并在绝对 BLEU 和 ROUGE 得分上超过现有基线方法高达 5%，显示出高性能开放词汇脑机接口与文本系统用于促进交流的巨大潜力。

    May, 2024

  • 深度表示学习用于开放词汇的脑电图到文本解码

    使用预训练语言模型对无创脑机接口（BCI）通过脑电图（EEG）信号进行解码的潜力进行了研究，提出了一个具有先进表示学习方法的无创脑电记录的端到端深度学习框架，并使用新的评估指标验证了该框架在解码效果方面的优越性。

    Nov, 2023

  • 通过预训练对比度 EEG-Text 掩蔽自编码器的可转移表示增强 EEG 到文本解码

    提出了一种新颖的 Contrastive EEG-Text Masked Autoencoder 模型，并借助预训练模块以及 EEG 流实现了 EEG 到文本的解码，实验结果表明在文本激发的 EEG 数据库上，该模型在 ROUGE-1 F1 和 BLEU-4 得分上分别超过现有技术 8.34％和 32.21％，这显示了该框架在大脑计算界面应用领域的潜力。

    Feb, 2024

  • 利用自然语言监督进行脑电图到语言解码和零样本情感分类的自举方法 (BELT)

    提出一种名为 BELT 的模型和学习框架，以大规模预训练语言模型和自然语言监督为基础，通过深度 Conformer 编码器和矢量量化编码器实现大脑信号到自然语言的转换，取得了在脑信号解码和零样本情感分类任务上的最新结果。

    Sep, 2023

  • 脑电图转文本模型是否有效？

    通过对开放词汇的脑电图到文本翻译模型进行关键性分析，发现以往的研究往往在评估过程中使用隐式教师强迫来人为提高性能指标，且缺乏对纯噪声输入下模型性能的关键性基准比较。我们提出了一种可区分真正从脑电信号中学习与仅仅记忆训练数据的模型的方法。我们的分析显示，模型在噪声数据上的性能可以与在脑电数据上相媲美。这些发现强调了 EEG-to-Text 研究需要更严格的评估方法，强调透明报告和与噪声输入进行严格基准测试。这种方法将能够更可靠地评估模型能力，并为健壮的 EEG-to-Text 通信系统铺平道路。

    May, 2024

  • 揭示思维：脑电信号解码成文本之进展综述

    脑活动转化为文本的研究在近年来取得了显著的进展，许多研究人员致力于开发新模型将脑电信号解码为文本形式，但该领域仍面临许多挑战，需要进一步改进。该综述文章完整总结了脑电信号转化为文本的进展，包括该技术的成长、仍存在的问题、数据收集方法、信号处理步骤以及将这些信号转化为连贯文本的系统开发。通过解决这些方面，该综述旨在为广泛的用户群体开发更易接触和有效的脑机接口（BCI）技术做出贡献。

    Apr, 2024

  • 基于语义感知的课程学习在脑电图到文本生成中的对比学习

    本文介绍了使用课程多义对比学习策略来降低脑电信号与自然语言文本之间差异的挑战，其在多种模型和架构上均表现出优秀的实验结果并取得最新的最优结果，可广泛应用于单一对象和资源匮乏的情况，并且其在零样本学习方面具有鲁棒性。

    Jan, 2023

  • ChatGPT-BCI: 使用 GPT、EEG 和眼动生物标志的语义推理阅读理解的词级神经状态分类

    通过联合分析大型语言模型、眼动数据和脑电图数据，本研究旨在研究人脑在阅读时对具有不同关联程度的关键词的词语的处理方式，并用特征工程方法改善相关脑电图数据的分类，从而为人类的认知能力和人工智能领域提供有价值的洞察，并为发展潜在的阅读辅助技术提供指导。

    Sep, 2023

  • 脑到文本解码中的数据污染问题

    非侵入性的认知信号解码为自然语言一直是建立实用脑 - 计算机接口（BCIs）的目标。最近的重要里程碑成功地将认知信号如功能磁共振成像（fMRI）和脑电图（EEG）在开放词汇设置下解码为文本。然而，如何在认知信号解码任务中拆分训练、验证和测试数据集仍然存在争议。本文对当前数据集拆分方法进行了系统分析，发现数据污染的存在大大夸大了模型性能。为了消除数据污染的影响和公平评估不同模型的泛化能力，我们提出了一种新的分裂方法用于不同类型的认知数据集（例如 fMRI，EEG）。我们还测试了在提出的数据集分裂模式下的 SOTA 脑 - 文本解码模型的性能作为后续研究的基准。

    Dec, 2023

  • 用于多模式自然语言处理的 EEG 脑电信号解码

    本文针对脑电信号对自然语言处理的潜力进行了大规模研究，利用多模态机器学习体系结构，发现滤波后的脑电信号对情感分析任务的性能提升最为明显，特别是在训练数据有限的情况下。

    Feb, 2021