解码神经信号为语音
本研究提出了一种使用多重对齐框架将脑电信号转换为文本的新方法,通过在 MEG 信号中直接生成全新的文本,实现了令人印象深刻的 BLEU-1 得分,极大地超越了基线模型,显示出实现 BCI 研究的潜力。
Jun, 2024
通过对大量受试者进行对比学习,使用自我监督方法设计的神经网络可以从无创脑电图数据中有效识别自由自然语言,为实现从脑电图中实时解码自然语音处理提供了有前途的途径。
Aug, 2022
使用预训练语言模型对无创脑机接口(BCI)通过脑电图(EEG)信号进行解码的潜力进行了研究,提出了一个具有先进表示学习方法的无创脑电记录的端到端深度学习框架,并使用新的评估指标验证了该框架在解码效果方面的优越性。
Nov, 2023
研究目的是调查言语知觉的复杂机制,并最终解码在听取言语时发生的大脑电生理学变化。我们尝试使用深度学习方法从颅内脑电数据中解码听到的言语,目标是促进言语合成的脑 - 机接口技术的发展,并为言语知觉的认知过程提供额外的视角。这一方法不同于传统的言语产生焦点,而选择调查感知言语的神经表达。通过利用深度学习模型的能力,研究旨在建立这些复杂神经活动与相应言语声音之间的联系。尽管该方法尚未取得突破,但研究揭示了解码言语知觉期间神经活动的潜力。我们目前的努力可以作为基础,并且我们对拓展和改进这项工作以更接近先进的脑 - 机接口、更好地理解言语知觉过程及其与口语之间的关系的潜力持乐观态度。
Feb, 2024
通过基于高时间分辨率的 MEG 测量脑活动,利用生成型和基础型人工智能系统解码大脑活动,特别是通过功能性磁共振成像 (fMRI) 解码视觉感知,从而在实时应用方面取得了重大进展。
Oct, 2023
非侵入性的认知信号解码为自然语言一直是建立实用脑 - 计算机接口(BCIs)的目标。最近的重要里程碑成功地将认知信号如功能磁共振成像(fMRI)和脑电图(EEG)在开放词汇设置下解码为文本。然而,如何在认知信号解码任务中拆分训练、验证和测试数据集仍然存在争议。本文对当前数据集拆分方法进行了系统分析,发现数据污染的存在大大夸大了模型性能。为了消除数据污染的影响和公平评估不同模型的泛化能力,我们提出了一种新的分裂方法用于不同类型的认知数据集(例如 fMRI,EEG)。我们还测试了在提出的数据集分裂模式下的 SOTA 脑 - 文本解码模型的性能作为后续研究的基准。
Dec, 2023
提出了一种用于神经解码和脑预测的新模型 extsc {PredFT},它结合了主要解码网络和用于预测编码的辅助网络,并通过交叉注意力将脑预测编码表示融入主要解码网络以促进语言模型的生成过程。在最大 BLEU-1 分数为 27.8% 的自然语言理解 fMRI 数据集 Narratives 上进行了实验,取得了当前最先进的解码性能。
May, 2024
通过使用 EEG2TEXT 方法,借助 EEG 预训练和多视图变压器,能够从脑电图信号中提取更准确的开放词汇解码,并在绝对 BLEU 和 ROUGE 得分上超过现有基线方法高达 5%,显示出高性能开放词汇脑机接口与文本系统用于促进交流的巨大潜力。
May, 2024