ICLRApr, 2022

HyperNCA：使用神经元细胞自动机生成发育网络

PDF
TL;DR通过使用基于神经细胞自动机 (NCA) 的超网络方法，我们可以在受到自组织系统和信息理论方法的启发下，以发育生物学为基础，生长出能够解决常见强化学习任务的神经网络，并探索了如何使用相同的方法来构建发育变形网络，以解决最初强化学习任务的变化版本。
发现论文，激发创造
  • 神经元元胞自动机中的新兴动力学

    我们研究了神经元元胞自动机（NCA）模型的架构与其所产生的动态图案之间的关系，并发现 NCA 输出的紧密度和比例性与架构的两个变量之间存在强相关性，因此我们提出了用于创建动态 NCA 的设计原则。

    Apr, 2024

  • 智慧生命的游戏

    这篇论文介绍了神经元细胞自动机的概念，并探讨了其与卷积神经网络相结合在预测机器方面的应用，以及通过计算每个单元的适应性分数和随机性移动来优化神经元自动机。

    Jan, 2023

  • 用神经元细胞自动机学习时空模式

    神经元元胞自动机（NCA）结合了机器学习和机械建模的强大能力。我们通过对图像时间序列和 PDE 轨迹进行训练，使 NCA 学习复杂动态。我们的方法旨在识别支配大规模动态出现行为的潜在局部规则。我们将 NCA 扩展到在同一系统中捕捉瞬态和稳定结构，以及学习捕捉非线性偏微分方程（PDE）中图灵模式形成的规则。我们展示了 NCA 在 PDE 训练数据之外的广泛推广能力，演示了如何限制 NCA 以尊重给定的对称性，并探索了相关超参数对模型性能和稳定性的影响。能够学习任意动态使得 NCA 成为一种具有很大潜力的数据驱动的建模框架，尤其适用于生物模式形成建模。

    Oct, 2023

  • 神经元细胞自动机可以响应信号

    本文介绍了神经细胞自动机（NCAs）作为人工形态发生模型的发展，并展示了 NCAs 对于内部和外部信号的反应能力，能够通过内部信号生长出多种形态， 通过外部信号改变颜色，并为将动态行为嵌入 NCA 模型打下基础。

    May, 2023

  • 细胞自动机作为卷积神经网络

    本文探讨了如何使用卷积神经网络及多层感知器等深度学习技术识别复杂动力系统中的规律，着重研究了各类元胞自动机以及其内部规则和神经网络的内部表示方法。

    Sep, 2018

  • 通过神经发育计划实现自组装人工神经网络

    本文介绍一种神经网络成长的过程，通过一种类似于生物发育的过程，使用神经发育程序 (NDP) 作为一种引导机制，进而自我组织神经网络。作者还探讨了这种方法在不同优化方法（进化训练，在线 RL，离线 RL 和监督学习）和不同机器学习基准上的实验表现，并强调了自组织驱动神经网络成长所带来的未来研究方向和机会。

    Jul, 2023

  • 神经元细胞自动机纹理生成

    本文利用神经元细胞自动机（NCA）算法实现了基于单个模板图像的纹理生成器，其中神经元细胞自动机算法提供了一种学习分布式本地算法生成纹理的范例，并具有高保真度和鲁棒性。

    May, 2021

  • 基于注意力机制的神经元元胞自动机

    本文介绍了一种名为 Vision Transformer Cellular Automata（ViTCA）的定义在细胞自动机框架内基于自注意力机制的人工神经网络，并比较了其在线性降噪自编码任务上与其他神经网络的性能。

    Nov, 2022

  • 成长中的人工神经网络控制：神经元多样性的作用

    该研究探讨了通过细胞间的局部通信和自组织来实现神经网络的生长过程，引入了两种机制以确保保持神经元多样性，同时解决了优化稳定性和神经元多样性之间的矛盾。实验结果表明，通过这两种机制，神经发育程序在复杂运动任务中取得了与现有编码方式相当的结果。

    May, 2024

  • 路径规划神经细胞自动机

    本文使用神经元元自动机的计算框架，对广度优先搜索和深度优先搜索进行了手工编码和学习模型，实现了计算图的直径问题，并提出了对数据点实施对抗扰动训练的方案，提高了神经网络的泛化能力和解决复杂问题的能力。

    Jan, 2023