本文研究了 Winner Take All(WTA)回路在整合分布于不同 WTA 网络中的信息以及通过自上而下的过程改进 WTA 网络推理和学习性能方面的适用性,并确认其可根据关键的神经形态学原理实现低延迟和高能效的神经形态硬件。
Aug, 2023
本研究旨在探讨神经网络激活函数中的本地竞争机制,并发现这种自我模块化特性的有益性,证明这种特性能有效提高网络性能,此外还表明该方法在利用神经网络有效地检索大型数据集方面具有广泛应用前景。
Oct, 2014
在神经网络结构中使用 k-Winners-Take-All 激活函数取代传统激活函数用以防御梯度攻击,该方法可用于现有的网络结构和训练方法,在白盒攻击下具有更好的鲁棒性。
May, 2019
该研究提出了一个平均场模型,研究了神经元活动的自发性和同步性。当平衡抑制和兴奋的突触权重比为 4 时,网络呈现出自组织临界特性,而当存在外部电场时呈现出平衡网络的四种同步状态,该模型可以解释不同抑制水平下神经元活动的异步性,可能有助于理解不同大脑区域的神经元活动机制。
Jun, 2019
通过 gated-memory 神经网络中的 subLSTMs 单元,作者提出了一种在 known canonical 激活 - 抑制皮质微电路上的自然映射 ,通过在图像分类和语言建模任务中的实证评估,作者证明了 subLSTM 单元可获得类似于 LSTM 单元的性能,因此推断皮层电路可以被优化以解决复杂的背景问题,并提出了一个新颖的计算机功能视角。
Nov, 2017
该研究论文讨论了神经元和神经元网络在大量噪声的外界环境中如何可靠地进行信息传输,并提出平衡突触连接来实现强大的稳健性的观点。
May, 2017
通过 Ising 模型,我们发现在脊椎动物视网膜和文化皮层神经元网络中,两元素之间的相关性与大群体之间的高阶复杂相互作用描述了神经元的集体行为,证明了神经编码具有联想或纠错功能。
Dec, 2005
基于 k 取胜神经元激活函数的合作集成神经网络(kWTA-ENN)是一种改进的集成方法,通过并行训练子网络并利用 k 取胜神经元激活函数,实现了专业化与知识共享的平衡,其在基准数据集上达到更好性能,例如 98.34%的 MNIST 测试准确率。
Jan, 2024
通过测量不同物种大脑内多地点局部场电位(LFP)的活动模式和信息交互能力,该研究发现在适度的兴奋 / 抑制(E/I)比例下产生的神经元阵列的规模和信息容量最大,同时也揭示了局部神经元阵列互动峰值的本质 —— 神经元落像是 “局部临界” 现象,是平衡 E/I 和神经元网络的一项普遍性质。
Dec, 2010
运用网络控制理论,本文提供了一个关于大脑如何在不同认知状态之间转换的机制性解释,研究发现大脑的结构网络差异决定了其在控制网络功能动态轨迹中的不同作用。
Jun, 2014