artificial neural networks | BriefGPT

关键词artificial neural networks

搜索结果 - 272

通过 t-SNE 镜头探索逐层的对抗性鲁棒性
我们提出了一种方法来评估图像分类人工神经网络的对抗鲁棒性，该方法利用 t-SNE 技术进行视觉检验，并且通过比较干净和扰动后的嵌入来确定网络中的弱点。通过对比两种不同的人类设计和神经进化设计的神经网络在 CIFAR-10 数据集上的分析，我
PDF9 days ago
演化自组成神经网络：从自发活动到经验依赖学习
基于神经发育程序的一类自组织神经网络模型，具有可塑性，并能从经历中学习和适应不同的控制任务。结果表明，在需要快速适应或具有非稳态奖励的环境中，结构可塑性是有益的。
PDF15 days ago
IJCAI具有卷积和脉冲神经网络的异构联邦学习
通过比较不同的数据聚合方法，本文对包含传统人工神经网络（ANNs）和脉冲神经网络（SNNs）的联邦学习系统进行了评估，实验结果表明 CNN-SNN 融合框架在 MNIST 数据集上表现最好，并发现了多模型联邦学习收敛过程中的竞争抑制现象。
PDF15 days ago
神经网络中正性条件的数学认证，及其在偏单调性和伦理人工智能中的应用
本文提出了一种名为 LipVor 的新算法，用于通过有限数量的评估来验证黑盒模型，例如人工神经网络（ANN），是否在部分区域上是单调增的。与先前的方法相比，我们的方法能够在不需要受限的 ANN 架构或分段线性激活函数的情况下，数学上验证 A
PDF17 days ago
层次网络的模块化增长：高效、通用、稳健的课程学习
通过渐进式的模块化增长，研究表明，模块化网络在记忆任务上具有更好的性能、更强的泛化能力和对某些扰动的鲁棒性，即使只有模块之间的连接被训练，结构拓扑引入的归纳偏置足够强大，使得网络在固定了模块内连接的情况下仍能表现良好，并且逐渐模块化增长的循
PDF19 days ago
神经网络参数在训练过程中的信息几何进化
应用信息几何框架研究人工神经网络（ANN）训练过程中的相变行为与过拟合之间的关联，通过研究 ANN 参数的概率分布，利用差分几何原理构建概率分布函数的黎曼流形，观察到 ANN 在训练过程中在流形上的运动发生相变，该相变与 ANN 模型的过拟
PDF22 days ago
ACL太大而无法失败：较大规模的语言模型对痴呆相关语言异常的诱导具有不成比例的抵抗力
神经网络的内在评估指标，困惑度（PPL），被广泛用于理解自回归神经语言模型（NLMs）的行为。该研究探索了一种新型的双向注意力头切除方法，其呈现了与人脑研究中认知和大脑储备概念相关的特性，暗示了转换器模型中的注意机制可能与神经退行性疾病和衰
PDF24 days ago
过参数化神经网络中的对称性：一种均场视角
我们以平均场（Mean-Field）视角分析参数过多的人工神经网络在对称数据条件下的学习动态，探讨了采用随机梯度下降和可能的对称性增强技术（如数据增广、特征平均或等变体系结构）训练的广义浅层网络的学习动态，研究结果发现在对称数据的情况下，数
PDFa month ago
数据集学习的二元性与紧急性临界状态
在人工神经网络中，非可训练变量的激活动力学与可训练变量的学习动力学强烈耦合。研究表明通过两种映射的组合建立了非可训练边界变量的子空间（例如数据集）与可训练变量的切向子空间（即学习）之间的对偶映射，可以研究临界性的出现以及可训练变量波动的幂律
PDFa month ago
使用深度学习生成美国国内生产总值 (GDP) 增长的密度预测：基于贝叶斯后向传播和蒙特卡洛辍学
人工神经网络 (ANNs) 可以比动态因素模型 (DFM) 更准确地预测国内生产总值 (GDP)，尤其在经济衰退和结构性断裂期间展现出灵活性和非线性估计模型的性能优势。为了填补 ANNs 无法生成带有不确定性的预测分布的空白，我们使用贝叶斯
PDFa month ago
EchoSpike 预测可塑性：一种用于脉冲神经网络的在线本地学习规则
通过引入「EchoSpike Predictive Plasticity」（ESPP）学习规则，本文在多层 SNN 中探索在线本地学习的自监督学习应用，展示其与当前最先进的有监督学习规则相媲美的效果，从而为边缘神经形态计算开发出具有生物可行
PDFa month ago
一种寻找更好激活函数的方法
通过信息熵的角度，本研究理论上证明了存在具有边界条件的最差激活函数，提出了基于熵的激活函数优化方法（EAFO），并从 ReLU 中推导出了一种新的激活函数 CRReLU。实验证明 CRReLU 在深度神经网络中表现优异，并在大型语言模型细调
PDFa month ago
隐层神经元激活标签的误差边界分析
人工神经网络中高级概念的表示是人工智能领域中的一个基本挑战，解释性人工智能的现有文献强调了用概念标签化神经元以理解其功能的重要性，但它们主要关注识别刺激激活神经元的是什么，而我们认为这只是两个任务中的第一个，还有必要研究神经元对其他刺激的响
PDF2 months ago
成长中的人工神经网络控制：神经元多样性的作用
该研究探讨了通过细胞间的局部通信和自组织来实现神经网络的生长过程，引入了两种机制以确保保持神经元多样性，同时解决了优化稳定性和神经元多样性之间的矛盾。实验结果表明，通过这两种机制，神经发育程序在复杂运动任务中取得了与现有编码方式相当的结果。
PDF2 months ago
基于人工智能的传统核磁共振处理方法的拓展
通过使用人工智能的智能信号处理方法，我们展示了人工智能在核磁共振应用中超越传统技术的新机遇。我们开发和训练了几个人工神经网络，应用在我们的新工具箱 MR-Ai 中，解决了三个 “不可能” 的问题：仅使用传统 Echo/Anti-Echo 方
PDF2 months ago
白高斯内部噪声对模拟回声态神经网络的影响
该论文研究了噪声对循环神经网络的影响，以训练好的回声状态网络（ESN）为例，探讨了噪声在储层中传播的方式及其统计特性对网络的影响，揭示了不同激活函数和网络结构下，哪种类型的噪声对网络最为关键。
PDF2 months ago
环境丰富化：连续学习中前向传递的生物模型
连续学习是指代理的能力，即能够从持续的数据流中学习并在不遗忘旧信息的情况下传递知识。本文提出环境丰富可以作为研究前向传递的生物模型，启发人类化人工智能的发展。通过提供丰富的环境刺激，动物能够展现出显著的学习速度和新任务表现的改善，这在人类中
PDF2 months ago
跨领域连续学习的 CLAMP 方法
我们在这篇文章中提出了一种名为 CLAMP 的跨领域持续学习方法，它集成了一种类感知对抗领域自适应策略，以在复杂变化环境中实现单一模型的部署，避免了额外的标注成本，并且在理论分析和大量实验证明中取得了至少 10% 的显著性优于现有基准算法的
PDF2 months ago
基于分层相关重建的生物启发式联合分布神经元，支持多方向神经网络
人工神经网络对参数进行优化，而生物神经元是多向传播的，可以建模整体联合分布，本文讨论了一种基于多项式基函数的分布神经元的层次相关重构，并通过标准反向传播或新方法进行训练，实现多向传播的数值和概率密度。
PDF2 months ago
实用主义智能：在 ANNs 中应用有用性原则
人工神经网络在分类，预测等任务上表现出色，本研究回顾了在人工神经网络上运行的机器学习算法中模型参数选择与新实用主义理论之间的联系，探讨了优化在机器学习系统中的作用以及伦理学理论中的最佳行动的优化的内在关联。
PDF2 months ago