本文提出了一种称为 AdaNCA 的适配器神经元细胞自动机(Adaptor Neural Cellular Automata,AdaNCA)的方法,用于 Vision Transformer,通过在 Vision Transformer 层之间插入 NCA 来增强 ViT 的性能和抵抗对抗攻击以及在分布之外的输入时的鲁棒性。在 ImageNet1K 基准测试中,AdaNCA 仅增加不到 3% 的参数,并使准确度在对抗攻击下提高了超过 10% 的绝对值。此外,通过对 8 个鲁棒性基准测试和 4 个 ViT 架构进行广泛评估,证明了 AdaNCA 作为插件模块能够一致提高 ViTs 的鲁棒性。
Jun, 2024
神经元元胞自动机是传统元胞自动机模型的演化,通过集成基于深度学习的转换函数进行增强。我们介绍了潜在神经元元胞自动机(LNCA)模型,这是一种新颖的架构,旨在解决神经元元胞自动机的资源限制问题。我们将模型应用于图像恢复领域,以从降质版本中重建高质量图像。此修改不仅降低了模型的资源消耗,还保持了适用于各种应用的灵活框架。我们的模型在保持高重建保真度的同时,实现了显著的计算资源要求降低。这种效率提高使得模型能够处理比当前最先进的神经元元胞自动机模型大 16 倍的输入,使用相同的资源。
Mar, 2024
本文探讨了如何使用卷积神经网络及多层感知器等深度学习技术识别复杂动力系统中的规律,着重研究了各类元胞自动机以及其内部规则和神经网络的内部表示方法。
Sep, 2018
这篇论文介绍了神经元细胞自动机的概念,并探讨了其与卷积神经网络相结合在预测机器方面的应用,以及通过计算每个单元的适应性分数和随机性移动来优化神经元自动机。
Jan, 2023
本文提出了一种基于分层细胞自动机的图像显著性检测算法,利用深度特征和贝叶斯框架,集成不同尺度上的单层元胞自动机算法,取得了比传统方法更好的实验效果
May, 2017
神经元元胞自动机(NCA)结合了机器学习和机械建模的强大能力。我们通过对图像时间序列和 PDE 轨迹进行训练,使 NCA 学习复杂动态。我们的方法旨在识别支配大规模动态出现行为的潜在局部规则。我们将 NCA 扩展到在同一系统中捕捉瞬态和稳定结构,以及学习捕捉非线性偏微分方程(PDE)中图灵模式形成的规则。我们展示了 NCA 在 PDE 训练数据之外的广泛推广能力,演示了如何限制 NCA 以尊重给定的对称性,并探索了相关超参数对模型性能和稳定性的影响。能够学习任意动态使得 NCA 成为一种具有很大潜力的数据驱动的建模框架,尤其适用于生物模式形成建模。
Oct, 2023
通过使用基于神经细胞自动机 (NCA) 的超网络方法,我们可以在受到自组织系统和信息理论方法的启发下,以发育生物学为基础,生长出能够解决常见强化学习任务的神经网络,并探索了如何使用相同的方法来构建发育变形网络,以解决最初强化学习任务的变化版本。
Apr, 2022
本文利用神经元细胞自动机(NCA)算法实现了基于单个模板图像的纹理生成器,其中神经元细胞自动机算法提供了一种学习分布式本地算法生成纹理的范例,并具有高保真度和鲁棒性。
May, 2021
我们研究了神经元元胞自动机(NCA)模型的架构与其所产生的动态图案之间的关系,并发现 NCA 输出的紧密度和比例性与架构的两个变量之间存在强相关性,因此我们提出了用于创建动态 NCA 的设计原则。
Apr, 2024
本文介绍了神经细胞自动机(NCAs)作为人工形态发生模型的发展,并展示了 NCAs 对于内部和外部信号的反应能力,能够通过内部信号生长出多种形态, 通过外部信号改变颜色,并为将动态行为嵌入 NCA 模型打下基础。
May, 2023