Mar, 2024

人脑语言处理的计算模型研究综述

PDF
TL;DR使用计算模型进行大脑研究需要丰富的测试数据集和严格的实验控制，该论文通过评估不同的计算模型在相同数据集上的表现，突出了计算模型在大脑研究中的新兴趋势。
language modelscomputational modelsbrain researchemerging trendstesting datasets
发现论文，激发创造
  • 语言模型与人脑的差异

    研究发现，虽然语言模型和人类在处理语言时存在共同的计算原理，但它们在获取和使用语言方面存在明显差异，本研究通过比较语言模型的表示和人类大脑对语言的反应，发现语言模型并未很好地捕捉到情感理解、比喻语言处理和物理常识等三个现象，通过针对这些现象进行语言模型的细化调整，发现细化调整后的语言模型在这些任务中与人类大脑的反应更加一致，因此我们认为语言模型与人脑之间的差异可能源于语言模型对这些特定类型的知识的不足表示。

    Nov, 2023

  • 连接神经反应测量与语言计算模型：非全面指南

    研究神经语言理解基础一直是各种科学研究项目的长期目标，最近的语言建模和神经影像技术的进展为语言的神经生物学调查和构建更好、更类人的语言模型提供了潜在的改进。本文综述了从早期研究将事件相关电位和源于简单语言模型的复杂性度量联系起来的一条线路，到使用大型语料库训练的人工神经网络模型与使用自然刺激的多个模态的神经响应记录相结合的当代研究。

    Mar, 2022

  • 利用语言模型绘制大脑地图：一项调查

    研究人员调查了超过 30 个研究、10 个数据集和 8 个测量方法，发现大脑和语言模型激活有一些结构相似性，但现有证据还不充分，需要更多研究。

    Jun, 2023

  • 研究人类大脑句子理解的深度学习模型

    回顾了和人脑活动相关的人工语言模型研究，发现人工神经网络中单词意义的神经表征与其使用的密集词向量高度吻合，并且人工神经网络内部的处理层次与人脑有相似之处，但是依据研究的不同而有所不同。因此，建立人工神经网络作为自然语言理解过程模型的当前挑战之一是利用其高度结构化的表征几何来映射表征到脑数据。

    Jan, 2023

  • 语言认知与语言计算 —— 人类和机器的语言理解

    语言理解是认知科学和计算机科学领域的关键科学问题。本文比较了认知科学和计算机科学在语言理解方面的不同研究问题和方法，并探讨如何将两个领域的洞见结合起来，为构建智能语言模型和研究语言认知机制提供新的启示和展望。

    Jan, 2023

  • 人工神经网络对人类语言习得的启示

    通过使用机器学习及自然语言处理技术，研究语言习得过程，探讨如何让模型学习在有限的语言输入下获取语言知识，以验证关于人类语言学习本质的假说。

    Aug, 2022

  • 语言模型中的因果图重新发现人类叙事处理中的皮质层级

    通过比较语言模型特征对大脑活动的预测准确性，研究发现语言模型和人脑在语言信息处理方面存在相似性。

    Nov, 2023

  • 脑语言表征导航：神经语言模型与心理合理模型的比较分析

    比较神经语言模型和心理可信模型，发现心理可信模型在多种多样的背景下（包括多模态数据集、不同语言等）表现更优，尤其是在融合具象信息的心理可信模型中，对单词和段落层面的大脑活动预测表现最佳。

    Apr, 2024

  • 大型语言模型朝向类脑词表示的收敛

    大型语言模型的神经表示与脑成像测量的神经响应非常相似，因此表明该模型可以产生类人的表示。

    Jun, 2023

  • 将机器语言模型推广至人类水平的语言理解

    语言是理解和交流情境的关键，而语言处理系统使用类似人脑的神经网络以及查询注意力等方法来提高其能力，但当前的模型主要集中在内部语言任务上，限制其理解情境的能力，因此需要未来的模型应用认知神经科学和人工智能来扩展理解任务。

    Dec, 2019