- MindSemantix: 用大脑 - 语言模型解读大脑视觉经历
通过脑活动捕获的功能性磁共振成像解译人类视觉体验是神经科学研究领域的前沿挑战之一。本文介绍了 MindSemantix,这是一种新颖的多模态框架,使语言模型能够理解脑活动中唤起的语义内容,并形成无缝连接的端到端脑 - 语言模型。
- MindShot: 仅使用一张图像的大脑解码框架
提出一种名为 MindShot 的新框架,通过利用跨主体的先验知识实现有效的少样本脑解码,能够在少样本场景中重建语义准确的图像,并且在性能上优于基于每个主体每个模型范式的方法。
- CVPRMindBridge: 跨主体脑解码框架
通过生物启发的聚合函数和新颖的循环 fMRI 重建机制,提出了一种新的跨被试脑解码方法 MindBridge,能够实现跨被试脑解码,并能通过循环重建的 fMRI 实现新颖的 fMRI 合成和伪数据增强。实验证明 MindBridge 能够竞 - 脑功能对新受试者的视觉语义解码起促进作用
采用深度学习和脑解码技术,本研究通过跨参与者对齐脑响应视频和静态图像,提高了脑解码性能,并将神经表征与脑解剖结构相一致,为扩展神经成像数据集和增强有限脑记录的个体解码奠定了基础。
- fMRI-PTE:一种用于多被试脑活动解码的大规模 fMRI 预训练 Transformer 编码器
脑活动解码的研究一直以来都是一个持久的追求,具有脑机接口、医学诊断和虚拟现实等潜在应用。我们提出了一种创新的 fMRI 预训练自编码器方法(fMRI-PTE),专注于解决因个体脑差异导致的 fMRI 数据维度变化的挑战。我们将 fMRI 信 - 从脑电图记录学习稳健的深度视觉表征
该研究使用脑电图 (EEG) 信号进行图像重建和分类,通过深度学习的特征提取方法在多个数据集上展示了其在大脑与计算机交互中的可广泛应用性,并提出了一种在 EEG 空间中转换未见图像并进行近似重建的新框架,显示出优于生成对抗网络现有性能的潜力 - 透过他们的眼睛:简单对齐技术的多受试者脑解码
通过数据对齐方法,我们的研究旨在引入一种针对跨个体大脑解码的泛化技术。我们使用了 NSD 数据集,利用多个受试者的数据对齐,对跨个体大脑解码进行了训练和测试,证实了即使使用约 10% 的数据或 982 个共同图像,交叉个体的大脑解码也是可行 - 脑部字幕:将人脑活动解码成图像和文本
该研究采用 fMRI 技术和图像生成模型,提出了一种基于大脑神经活动解码为图像文字的方法,该方法包括图像重建流程和基于深度图的图像生成模型,实验证明其在神经科学方面具有广泛应用的潜力。
- BrainCLIP:基于 CLIP 框架的大脑和视觉 - 语言表示连通,用于基于 fMRI 的自然视觉刺激解码
本文提出了一种跨模态的大脑解码模型 BrainCLIP,通过将图像和文本监督在语义空间中相结合,将 fMRI 模式转换为 CLIP 嵌入空间,实现了自然图像的高级特征还原和语义解码。
- 自我学习对脑解码的益处
使用大型公共神经影像数据库进行自学习框架,改进新任务的大脑解码,通过卷积自编码器训练神经网络,实现对任务或认知过程分类的性能改进。
- 跨视角脑解码
本文旨在研究跨视图零样本大脑解码在图像说明、图像标记、关键词提取和句子形成等任务中的有效性,研究表明,对于跨视图零样本的大脑解码是切实可行的,并提出了各种视图解码的模型,如图像说明,图像标记,关键词提取和句子形成。
- EMNLP人工和人类神经语言表示的关联
对比句子编码模型在大脑解码任务上的表现,发现语法轻量级表示能够显著提高脑解码性能,这一结果限制了自然语言理解模型解释人类大脑语言功能的空间,同时也揭示了使用 fMRI 人脑成像技术解码精细句法信息的局限性。