Apr, 2020

神经网络的内部结构：基于功能神经元群和网络消融的学习表示特征表征

PDF
TL;DR本文研究神经网络的透明度缺乏问题，通过对激活模式和网络消融的表征，揭示了在完成学习任务时单个神经元和神经元群体的作用，强调了为未来的转移学习和现代神经科学发展提供必需指标的重要性。
transparencydecision-making processesneural networksactivation patternsnetwork ablations
发现论文，激发创造
  • 人工神经网络中的消融研究

    本文通过两种不同的人工神经网络在计算机视觉领域常见的基准数据集进行消融实验，研究了神经网络的内部表征和结构损伤的鲁棒性，并探讨了消融研究在人工神经网络中的可行性及其对于未来安全关键应用的重要性。

    Jan, 2019

  • 机器人大脑消融：神经网络受刀削影响

    本文提出了一种新颖的方法来确定神经网络内部信息的结构，通过神经科学的切除技术（ablation），从生物学角度分析了几种神经网络架构，研究了生物神经网络和人造神经网络之间的重要相似之处，以寻找隐含在网络权重中的隐式知识。

    Dec, 2018

  • 深度神经网络中的功能激活

    深度神经网络的功能结构通过功能神经影像学的技术得到了探测。确定的功能网络可以用于模型对齐、模型输出的调节以及在微调中确定权重。

    Nov, 2023

  • 从个体神经元的群体动态学习时不变表达

    神经元的高度变化动力学，提出了一种基于自监督学习的方法，通过对种群记录进行置换和不变总结对个体神经元赋予时间不变性表示，对神经元活动进行动力学建模，可实现对转录组标签的预测，大约提升了 35% 的预测转录组亚类别的准确性，并且相对于最先进的方法提高了 20% 的类别预测准确性。

    Nov, 2023

  • 人工神经网络探究：来自神经科学的启示

    这篇文章探讨从神经科学角度出发，在进行机器学习的探索性研究时，通过指定研究目标且明确探针设计的方向和表现性来实现对于感兴趣特征激活模式的监督模型

    Apr, 2021

  • 探索随机过程来理解人工神经网络中的激活模式

    使用随机过程模型神经网络中的激活模式，从而提供关于网络行为的有价值洞见。

    Aug, 2023

  • 深度学习最近提出的激活函数综述

    介绍了人工神经网络中激活函数的主要概念及其作用，讨论了各种激活函数类型、应用、限制和替代方案。

    Apr, 2022

  • 中枢神经系统中神经人群的信息处理：数据与操作的数学结构

    哺乳动物中枢神经系统的神经元群体通过尖峰列作为媒介进行通信，而这些神经元群体的精确编码和操作尚未被发现。本研究通过一种现代的机械模型探讨信息的表示和操作，并发现神经元群体可以通过有限凸锥的代数精确表征和操作，充当低级别编程语言的功能性操作符。当这些群体相互连接时，它们呈现简洁而强大的代数表达式，使其能够实现特化、泛化、新颖性检测、降维、逆向建模、预测和关联记忆等众多操作。此研究凸显了矩阵嵌入在认知科学和人工智能等领域推动我们理解的潜力，这些嵌入提升了概念处理和分层描述的能力。

    Sep, 2023

  • 从生物到人工神经网络的转化与借鉴

    本文探讨了如何利用深度学习来研究神经健康以及在算法模型中解释神经分析的困难。其重要贡献在于调查死亡神经元对人工神经网络性能的影响，以评估这些发现在生物领域的潜在应用，可能对神经系统疾病的治疗有重要影响。

    Jun, 2023

  • 神经种群几何和任务共享潜在结构的最优编码

    人和动物可以认识到环境中的潜在结构，并将这些信息应用于有效地导航世界。本论文开发了一个分析理论，将神经群体活动的中等统计特性与多任务学习问题上的泛化性能相联系。利用这个理论，我们发现实验观察到的因素化（或解缠）表示自然地成为多任务学习问题的最优解，同时验证了来自生物和人工神经网络数据的理论预测。这些结果将神经群体几何学与多任务学习问题联系起来，并对这些场景中的群体活动结构进行正式预测。

    Feb, 2024