可转向生长神经元细胞自动机
本文介绍了神经细胞自动机(NCAs)作为人工形态发生模型的发展,并展示了 NCAs 对于内部和外部信号的反应能力,能够通过内部信号生长出多种形态, 通过外部信号改变颜色,并为将动态行为嵌入 NCA 模型打下基础。
May, 2023
神经元元胞自动机(NCA)结合了机器学习和机械建模的强大能力。我们通过对图像时间序列和 PDE 轨迹进行训练,使 NCA 学习复杂动态。我们的方法旨在识别支配大规模动态出现行为的潜在局部规则。我们将 NCA 扩展到在同一系统中捕捉瞬态和稳定结构,以及学习捕捉非线性偏微分方程(PDE)中图灵模式形成的规则。我们展示了 NCA 在 PDE 训练数据之外的广泛推广能力,演示了如何限制 NCA 以尊重给定的对称性,并探索了相关超参数对模型性能和稳定性的影响。能够学习任意动态使得 NCA 成为一种具有很大潜力的数据驱动的建模框架,尤其适用于生物模式形成建模。
Oct, 2023
我们研究了神经元元胞自动机(NCA)模型的架构与其所产生的动态图案之间的关系,并发现 NCA 输出的紧密度和比例性与架构的两个变量之间存在强相关性,因此我们提出了用于创建动态 NCA 的设计原则。
Apr, 2024
本文利用神经元细胞自动机(NCA)算法实现了基于单个模板图像的纹理生成器,其中神经元细胞自动机算法提供了一种学习分布式本地算法生成纹理的范例,并具有高保真度和鲁棒性。
May, 2021
通过使用基于神经细胞自动机 (NCA) 的超网络方法,我们可以在受到自组织系统和信息理论方法的启发下,以发育生物学为基础,生长出能够解决常见强化学习任务的神经网络,并探索了如何使用相同的方法来构建发育变形网络,以解决最初强化学习任务的变化版本。
Apr, 2022
通过创新的方法,我们提出了一种改进的神经元细胞自动机(Neural Cellular Automata,NCA)模型,它可以在不同的时空颗粒度下保持连续动态,并能够进行模式形成速度和合成模式尺度的连续控制,为 NCA 研究开辟了新的领域。
Apr, 2024
本文介绍了一种名为 Vision Transformer Cellular Automata(ViTCA)的定义在细胞自动机框架内基于自注意力机制的人工神经网络,并比较了其在线性降噪自编码任务上与其他神经网络的性能。
Nov, 2022
本文利用深度学习和神经元元胞自动机,提出了一种可在硬件上成功应用的模块化 2D 机器人系统,该系统可以通过其组件的本地通信推断其自身的形状类别,实现了自分类的能力。
Mar, 2022
本文提出了一种称为 AdaNCA 的适配器神经元细胞自动机(Adaptor Neural Cellular Automata,AdaNCA)的方法,用于 Vision Transformer,通过在 Vision Transformer 层之间插入 NCA 来增强 ViT 的性能和抵抗对抗攻击以及在分布之外的输入时的鲁棒性。在 ImageNet1K 基准测试中,AdaNCA 仅增加不到 3% 的参数,并使准确度在对抗攻击下提高了超过 10% 的绝对值。此外,通过对 8 个鲁棒性基准测试和 4 个 ViT 架构进行广泛评估,证明了 AdaNCA 作为插件模块能够一致提高 ViTs 的鲁棒性。
Jun, 2024