Mar, 2024

卷积神经网络中单词识别的神经编码破解

PDF
TL;DR通过训练深度神经网络模型来识别书面文字，并分析阅读专门化单元在网络的不同层次中是如何出现和运作的，我们揭示了这些单元敏感具体的字母身份和它们距离单词左侧或右侧的空格的距离，从而充当 “空格二元组”。这些单元特定地编码序数位置，通过从网络的早期层次中的低和高频率检测器单元汇聚来运作。所提出的神经编码提供了关于如何提取字母身份和位置信息并实现不变词语识别的机制性洞察，并导致了阅读行为、错误模式和阅读的神经生理学的预测。
发现论文，激发创造
  • 视觉语言模型中的单词识别、竞争和激活

    本文研究了如何在视觉语音循环神经网络中表示和识别单词，使用门控方法分析神经网络所学单词表征的正确性和词汇竞争过程中的单词激活方式，其结果表明当网络能接触到目标单词第一个音素时才能正确识别单词表征。

    Sep, 2019

  • 大规模神经系统识别：分离 “何时” 和 “何地” 信息

    提出了一种卷积神经网络 (CNN) sparse 的架构，可扩展到数千个神经元和短期记录，可以端到端地训练，从而克服了 CNN 拟合神经数据中感受野位置估计的主要瓶颈，该模型的表现优于现有的小鼠初级视皮层系统识别模型。

    Nov, 2017

  • 从音素到图像：一种循环神经模型中的表征层次结构，用于视觉语言学习

    基于堆叠门控循环神经网络的视觉语言学习模型，可以通过音素序列描述的图像描述，学习预测图像的视觉特征，并以层级结构表示语言信息。

    Oct, 2016

  • 多列深度神经网络用于图像分类

    介绍了一种基于神经网络算法的计算机视觉和机器学习新方法，通过极小的感受野感知神经元构建深度神经网络来实现图像分类，相比于传统的方法显著提高识别性能

    Feb, 2012

  • 使用卷积神经网络从自然场景中读取文本

    本研究介绍了一种基于卷积神经网络的端到端文本识别、图像检索系统，使用了一些新颖的深度学习技术实现文本定位、识别、筛选和排序，在多个基准测试数据集上获得了最先进的性能表现，并应用于新闻视频检索中。

    Dec, 2014

  • 使用深度学习进行动态自然视觉的神经编码和解码

    研究表明，使用卷积神经网络 (CNN) 驱动的图像识别技术不仅能在下流视觉区域说明大脑对静态图片的反应，还能可靠地预测和解码人类观看自然电影时的功能性磁共振成像数据，并通过缺少有关时间动态或反馈处理机制的 CNN-Predicted areas 覆盖了包括腹侧流和背侧流在内的大部分视觉和语义空间。

    Aug, 2016

  • 卷积神经网络单元中自然语言概念的发现

    本文尝试理解深度卷积神经网络对自然语言任务训练时的表示方式，发现其各个单元对特定词素、单词和短语具有选择性响应，而非对任意难以解释的模式响应。作者提出了基于复制文本单位响应的概念对齐方法，对多个数据集的分类和翻译任务进行了定量分析，并为我们深入理解深度模型如何理解自然语言提供了新思路。

    Feb, 2019

  • 一种新的特征混淆方法揭示了卷积神经网络学习空间关系的能力

    该研究使用特征打乱的方法，结合 CNNs 的最小可识别构型分析和有效接受域尺寸的系统控制，探索了 CNNs 在对象分类中是否使用特征的空间排列，并且发现它们实际上能够利用相对较远的空间关系进行对象分类，同时证明 CNNs 使用的空间关系程度非常依赖于特定数据集和该数据集中不同类别对象的分类策略也不同。最后，研究还发现 CNNs 只能学习特征的中间粒度的空间排列，这提示了在对象分类中中间层次的形状特征提供了敏感度和特异性之间的最佳平衡点。

    Dec, 2022

  • 基于半字符的循环神经网络实现鲁棒性词语识别

    本研究提出一种半字符级递归神经网络模型，用于识别单词拼写错误，与现有的拼写检查器和基于字符的卷积神经网络相比，具有更为强大和鲁棒的性能，可以模拟人类阅读难度的实验。

    Aug, 2016

  • 基于循环神经网络的语音表征建模中声音学编码

    研究使用回归神经网络模型处理图像和其口述描述中语音音素的表示和编码，通过一系列实验分析了音素如何在模型的各层中编码，发现最明显的音素表示在较低层，而注意力机制则显著削弱语音学编码，并使得话语嵌入更加不变。

    Jun, 2017