神经进化电子动态网络
该研究提出了一种新方法,即利用少量的突变规则来动态演化循环神经网络的结构,其结果表明,这种方法可以在大多数情况下匹配或超过梯度下降方法的性能,同时使用数量级更少的参数,该方法有望在对网络紧凑性和自主设计至关重要的实际应用方面开辟新的途径。
Apr, 2023
提出了一种基于张量微积分和拟达尔文机制的混合模型,用于寻找适合于策略、控制和模式识别任务的拓扑结构,并且能够在早期演化阶段提供适应的拓扑结构,从而在机器人,大数据和人工生命等领域得到应用。
May, 2022
本文提出了一种利用遗传算法优化深度卷积神经网络结构和连接权重初始化的图像分类算法,该算法利用一个高效的可变长度基因编码策略和新的表示方案初始化深度卷积神经网络的连接权重,并提出了一种新的适应度评估方法,实现了在少量计算资源下的快速启发式搜索,与其他 22 个现有算法相比在九个广泛应用于图像分类的任务中表现明显优越。
Oct, 2017
我们证明了遗传算法可以在深度人工神经网络上实现良好的性能表现,即使没有梯度信息支持,我们使用深度遗传算法结合新颖搜索技巧在具有挑战性的深度强化学习问题上获得了成功,并且速度比其他算法更快,能够实现高效编码。
Dec, 2017
在神经进化(neuroevolution)中,我们提出了一种名为 NeuroLGP-SM 的方法,它利用表型距离向量和 Kriging Partial Least Squares(KPLS)作为代理模型,以高效准确地评估大型深度神经网络(DNNs)的适应度,并且相比其他方法具有竞争力或更好的结果和更高的能源效率。
Apr, 2024
本文提出了一种使用神经进化学习策略来设计和训练光学神经网络(ONNs)的新方法。通过使用两种典型的神经进化算法来确定 ONNs 的超参数并优化连接中的权重(相移器),本研究证明了该训练算法是有效的,且在对虹膜植物数据集,葡萄酒识别数据集和调制格式识别等分类任务上展示出与其他传统学习算法相当的能力和稳定性。
Aug, 2019
本研究详细探讨了使用卷积神经网络(CNN)、循环神经网络(RNN)、长短期记忆网络(LSTM)和深度置信网络(DBN)通过可编程门阵列(FPGA)改进对心电图(ECG)信号的分析的复杂神经网络框架,使用 MIT-BIH 心律失常数据库作为模型训练和评估的基础,并加入高斯噪声来提高算法的鲁棒性。研究中我们采用多层结构进行特定处理和分类功能的设计,使用了 EarlyStopping 回调和 Dropout 层等策略来防止过拟合现象。此外,还详细介绍了为 PYNQ Z1 平台创建定制化的张量计算单元(TCU)加速器的过程。该研究提供了一个系统的方法论,涵盖了在 Docker 中配置 Tensil 工具链、选择架构、PS-PL 配置以及模型的编译和部署。通过评估延迟和吞吐量等性能指标,展示了 FPGA 在先进的生物医学计算中的效果。最终,本研究成果在各个领域优化 FPGA 上的神经网络操作提供了全面的指南。
Nov, 2023
本研究基于大自然神经系统的启发,应用突触可塑性规则训练带有局部信息的脉冲神经网络,使其适用于神经形态硬件的在线学习。其目的在于通过应用进化算法,使得各种不同任务的学习过程变得更加简单,通过提供一组各种局部信号、数学算子和全局奖励信号来找到最佳学习规则,我们发现通过这种方法可以成功解决 XOR 和车杆任务,并发现新的学习规则优于文献中的基准规则。
Feb, 2022