Mar, 2024

潜在神经元细胞自动机实现资源高效图像恢复

PDF
TL;DR神经元元胞自动机是传统元胞自动机模型的演化，通过集成基于深度学习的转换函数进行增强。我们介绍了潜在神经元元胞自动机（LNCA）模型，这是一种新颖的架构，旨在解决神经元元胞自动机的资源限制问题。我们将模型应用于图像恢复领域，以从降质版本中重建高质量图像。此修改不仅降低了模型的资源消耗，还保持了适用于各种应用的灵活框架。我们的模型在保持高重建保真度的同时，实现了显著的计算资源要求降低。这种效率提高使得模型能够处理比当前最先进的神经元元胞自动机模型大 16 倍的输入，使用相同的资源。
neural cellular automatadeep learningadaptabilitylatent spaceimage restoration
发现论文，激发创造
  • 智慧生命的游戏

    这篇论文介绍了神经元细胞自动机的概念，并探讨了其与卷积神经网络相结合在预测机器方面的应用，以及通过计算每个单元的适应性分数和随机性移动来优化神经元自动机。

    Jan, 2023

  • 基于注意力机制的神经元元胞自动机

    本文介绍了一种名为 Vision Transformer Cellular Automata（ViTCA）的定义在细胞自动机框架内基于自注意力机制的人工神经网络，并比较了其在线性降噪自编码任务上与其他神经网络的性能。

    Nov, 2022

  • 用神经元细胞自动机学习时空模式

    神经元元胞自动机（NCA）结合了机器学习和机械建模的强大能力。我们通过对图像时间序列和 PDE 轨迹进行训练，使 NCA 学习复杂动态。我们的方法旨在识别支配大规模动态出现行为的潜在局部规则。我们将 NCA 扩展到在同一系统中捕捉瞬态和稳定结构，以及学习捕捉非线性偏微分方程（PDE）中图灵模式形成的规则。我们展示了 NCA 在 PDE 训练数据之外的广泛推广能力，演示了如何限制 NCA 以尊重给定的对称性，并探索了相关超参数对模型性能和稳定性的影响。能够学习任意动态使得 NCA 成为一种具有很大潜力的数据驱动的建模框架，尤其适用于生物模式形成建模。

    Oct, 2023

  • 细胞自动机作为卷积神经网络

    本文探讨了如何使用卷积神经网络及多层感知器等深度学习技术识别复杂动力系统中的规律，着重研究了各类元胞自动机以及其内部规则和神经网络的内部表示方法。

    Sep, 2018

  • 神经元元胞自动机中的新兴动力学

    我们研究了神经元元胞自动机（NCA）模型的架构与其所产生的动态图案之间的关系，并发现 NCA 输出的紧密度和比例性与架构的两个变量之间存在强相关性，因此我们提出了用于创建动态 NCA 的设计原则。

    Apr, 2024

  • 神经元细胞自动机纹理生成

    本文利用神经元细胞自动机（NCA）算法实现了基于单个模板图像的纹理生成器，其中神经元细胞自动机算法提供了一种学习分布式本地算法生成纹理的范例，并具有高保真度和鲁棒性。

    May, 2021

  • AdaNCA: 神经元元胞自动机作为更为鲁棒的视觉变换器的适配器

    本文提出了一种称为 AdaNCA 的适配器神经元细胞自动机（Adaptor Neural Cellular Automata，AdaNCA）的方法，用于 Vision Transformer，通过在 Vision Transformer 层之间插入 NCA 来增强 ViT 的性能和抵抗对抗攻击以及在分布之外的输入时的鲁棒性。在 ImageNet1K 基准测试中，AdaNCA 仅增加不到 3% 的参数，并使准确度在对抗攻击下提高了超过 10% 的绝对值。此外，通过对 8 个鲁棒性基准测试和 4 个 ViT 架构进行广泛评估，证明了 AdaNCA 作为插件模块能够一致提高 ViTs 的鲁棒性。

    Jun, 2024

  • 神经元细胞自动机可以响应信号

    本文介绍了神经细胞自动机（NCAs）作为人工形态发生模型的发展，并展示了 NCAs 对于内部和外部信号的反应能力，能够通过内部信号生长出多种形态， 通过外部信号改变颜色，并为将动态行为嵌入 NCA 模型打下基础。

    May, 2023

  • 神经元元胞自动机轻量级、鲁棒性和可解释白细胞图像分类

    白细胞分类的新颖方法基于神经元细胞自动机 (NCA)，在三个白细胞图像数据集上测试表明我们的方法在与常规方法的竞争性能方面取得了良好的结果，该架构天然可解释，提供了对每个分类决策过程的洞见，帮助专家理解和验证模型预测，结果表明 NCA 不仅可以用于图像分类，还能解决常规方法的关键挑战，显示高潜力可应用于临床实践。

    Apr, 2024

  • HyperNCA：使用神经元细胞自动机生成发育网络

    通过使用基于神经细胞自动机 (NCA) 的超网络方法，我们可以在受到自组织系统和信息理论方法的启发下，以发育生物学为基础，生长出能够解决常见强化学习任务的神经网络，并探索了如何使用相同的方法来构建发育变形网络，以解决最初强化学习任务的变化版本。

    Apr, 2022