Dec, 2022

一种统一的信息论模型：人类语言处理的脑电图标记

PDF
TL;DR该文提出了一个基于信息理论的人类语言处理模型，观点是内在的语言输入在启发式解释和错误校正的两个层次上处理，由此提出两种信息处理的脑电信号（N400 和 P600）和由现代自然语言处理技术获得的 surprisal 量。该理论通过成功模拟实验证据，可以为传统的认知理论提供精确的信息理论解释。
information-theoretic modellanguage processingevent-related potentialssurprisalnlp techniques
发现论文，激发创造
  • 音频和音视觉理解中，单词的惊奇程度是否相同？

    研究视觉信息（即看到发言者）对口语理解的影响，比较了同一言语刺激的仅音频和音频 - 视觉呈现方式下相关联的 ERP 签名（N400），证明在多模态和单模态情况下认知努力存在显著差异，并指出在多模态环境下局部词汇环境对认知处理的巨大影响。

    Jul, 2023

  • 语言引发的事件相关电位的贝叶斯建模

    本文介绍了基于贝叶斯层级模型的方法，应用于神经和行为数据分析，特别是应用于事件相关电位 (ERP)，并通过一个以单词惊奇值和神经响应为例的实验数据进行了模拟和解释。

    Jul, 2022

  • 浅层和深层语言理解的信息论模型

    使用信息论将语言理解建模为准确性和处理深度之间的最佳折衷，将处理深度与 EEG 信号和阅读时间联系起来，从浅到深地量化语言处理的时间进程，提供一个统一框架来解释语言理解的行为和神经特征。

    May, 2024

  • 机器关注时的人类大脑活动

    通过将神经网络和神经科学的 EEG 数据相结合，使用理论驱动的裁剪和随机森林树分割来降低 EEG 数据的维度，从而改进了 NLP 任务中的注意力机制，表现出比强基准线更佳的表现，有助于进一步研究 EEG 在 NLP 任务中的应用。

    Jun, 2020

  • 使用 EEG 和语言模型探索语言处理的时间尺度

    本研究探讨了语言处理的时间动态，通过研究预训练基于变压器的语言模型和脑电数据之间的单词表示的对准。使用时间响应函数 (TRF) 模型，我们调查了神经活动如何对应于不同层的模型表示，揭示了人工语言模型和大脑在语言理解过程中的相互作用的见解。我们的分析揭示了不同层中 TRF 的模式，突显了对词汇和构成处理的不同贡献。此外，我们使用线性判别分析 (LDA) 来分离词性 (POS) 表示，为神经响应和句法处理的基本机制提供了见解。这些发现强调了脑电图在高时间分辨率下探测语言处理动态方面的实用性。通过连接人工语言模型和神经活动，本研究推进了对它们在精细时间尺度上相互作用的理解。

    Jun, 2024

  • 听觉词汇识别与整合的神经动力学

    本文报道了一种基于贝叶斯决策理论的语音识别计算模型，并通过 EEG 信号记录揭示了字词识别和整合的神经相关性，支持了语音理解的两个部分模型。

    May, 2023

  • 意外度能如何解释在不同实验条件下的 N400 振幅？

    本文研究词语意外性对神经测量的预测能力 ——N400，通过使用循环神经网络计算先前的神经语言学研究的刺激的意外性来进行实验。结果发现，在许多情况下，可以利用意外性来预测 N400 的幅度，并且无法预测的情况提供了洞察神经认知过程的有价值的见解。

    Oct, 2020

  • 信息限制神经语言模型揭示不同脑区对语义、句法和语境的敏感性

    该研究使用信息限制的自然语言处理模型研究了神经语言学中与句法和语义处理有关的脑区及其空间组织，并发现左右半球在语义和句法处理方面存在差异且在上下文范围和集成窗口方面敏感性不同。

    Feb, 2023

  • 基于人脑信号推断相关性的自然脑 - 信息接口

    本文介绍了一种通过脑电波信号推断用户阅读文档的相关性和搜索意图的大脑信息接口，成功地应用于从英文维基百科语料库中检索新的相关文档，为信息推荐提供了一种不需要明示用户意愿的新方式。

    Jul, 2016

  • 语言模型中的因果图重新发现人类叙事处理中的皮质层级

    通过比较语言模型特征对大脑活动的预测准确性，研究发现语言模型和人脑在语言信息处理方面存在相似性。

    Nov, 2023