解释编码和解码模型
研究通过功能性磁共振成像对大脑的记录,分析了编码模型和解码模型的应用,尤其关注深度学习算法的效果、好处和限制,并总结了神经科学数据集的代表性研究。
Jul, 2023
研究表明,使用卷积神经网络 (CNN) 驱动的图像识别技术不仅能在下流视觉区域说明大脑对静态图片的反应,还能可靠地预测和解码人类观看自然电影时的功能性磁共振成像数据,并通过缺少有关时间动态或反馈处理机制的 CNN-Predicted areas 覆盖了包括腹侧流和背侧流在内的大部分视觉和语义空间。
Aug, 2016
本研究评估了多种机器学习模型和相似度度量方法对于神经解码的视觉表征解码任务的影响,结果表明提出了更为先进和精确的方法,并为该解码任务提供了易于再现的基准。
Nov, 2018
对比句子编码模型在大脑解码任务上的表现,发现语法轻量级表示能够显著提高脑解码性能,这一结果限制了自然语言理解模型解释人类大脑语言功能的空间,同时也揭示了使用 fMRI 人脑成像技术解码精细句法信息的局限性。
Oct, 2019
本研究旨在探究多模态变形器提供的洞察能力,通过对多模态编码模型进行训练,发现多模态变形器学习了语言和视觉中概念表示的更多对齐性,并且可以有效预测大脑对于故事和电影的 fMRI 反应,从而揭示了多模态处理的潜力和相关的概念表示模型的比较。
May, 2023
通过在不同的 EEG 解码任务上进行深度学习网络的预训练和评估,研究了深度学习表达在任务之间的可迁移性,并发现在解码性能上有显著的提升,同时揭示了特定解码范式引发特定脑活动的证据,从神经科学的角度加强了我们对认知任务之间层次关系的理解。
Jul, 2023
本研究通过采用电脑脑波数据对 ImageNet 数据集中的图像进行分类和重建,提出了一种创新的方法。该研究不仅可以从神经活动中解码图像,还能仅利用脑电波数据生成图像的可靠重建,为个性化迅速反馈实验铺平了道路。
Sep, 2023
我们通过将与记忆相关的信息作为输入来探索一种新的脑编码模型。在视觉 - 记忆认知任务中,我们发现非视觉脑部在很大程度上可以通过先前看到的图像进行准确预测。我们的记忆编码模型(Mem)在 Algonauts 2023 视觉脑竞赛中获胜,即使没有模型集成(单一模型得分 66.8,集成得分 70.8)。我们的没有记忆输入的集成模型(61.4)也获得了第三名。此外,我们观察到周期性延迟的脑响应与第 6-7 个先前图像相关,并且海马体的活动也与这种周期性保持一致。我们推测周期性重放可能与增强工作记忆的记忆机制有关。
Aug, 2023
模拟了从计算模型中提取的表示进行的分析揭示了与大脑信号相似的时间动态,这表明这些特性可以在没有语言知识的情况下出现。此外,研究证明,声素的编码模式支持一定程度的跨语境概括,但我们发现这种概括的有效性取决于具体的语境,这表明单独的分析不足以支持存在语境无关编码。
May, 2024
提出了一种用于神经解码和脑预测的新模型 extsc {PredFT},它结合了主要解码网络和用于预测编码的辅助网络,并通过交叉注意力将脑预测编码表示融入主要解码网络以促进语言模型的生成过程。在最大 BLEU-1 分数为 27.8% 的自然语言理解 fMRI 数据集 Narratives 上进行了实验,取得了当前最先进的解码性能。
May, 2024