基于层次化的元胞自动机实现视觉显著性检测
本文介绍了一种名为 Vision Transformer Cellular Automata(ViTCA)的定义在细胞自动机框架内基于自注意力机制的人工神经网络,并比较了其在线性降噪自编码任务上与其他神经网络的性能。
Nov, 2022
我们通过使用层级生成元胞自动机 (hGCA) 模型,从大规模稀疏的自动驾驶车辆 (AV) 捕捉到的 LiDAR 扫描数据中生成精细的三维几何结构,为模拟真实、高分辨率的街景环境迈出了一步。
Jun, 2024
白细胞分类的新颖方法基于神经元细胞自动机 (NCA),在三个白细胞图像数据集上测试表明我们的方法在与常规方法的竞争性能方面取得了良好的结果,该架构天然可解释,提供了对每个分类决策过程的洞见,帮助专家理解和验证模型预测,结果表明 NCA 不仅可以用于图像分类,还能解决常规方法的关键挑战,显示高潜力可应用于临床实践。
Apr, 2024
神经元元胞自动机(NCA)结合了机器学习和机械建模的强大能力。我们通过对图像时间序列和 PDE 轨迹进行训练,使 NCA 学习复杂动态。我们的方法旨在识别支配大规模动态出现行为的潜在局部规则。我们将 NCA 扩展到在同一系统中捕捉瞬态和稳定结构,以及学习捕捉非线性偏微分方程(PDE)中图灵模式形成的规则。我们展示了 NCA 在 PDE 训练数据之外的广泛推广能力,演示了如何限制 NCA 以尊重给定的对称性,并探索了相关超参数对模型性能和稳定性的影响。能够学习任意动态使得 NCA 成为一种具有很大潜力的数据驱动的建模框架,尤其适用于生物模式形成建模。
Oct, 2023
我们研究了神经元元胞自动机(NCA)模型的架构与其所产生的动态图案之间的关系,并发现 NCA 输出的紧密度和比例性与架构的两个变量之间存在强相关性,因此我们提出了用于创建动态 NCA 的设计原则。
Apr, 2024
神经元元胞自动机是传统元胞自动机模型的演化,通过集成基于深度学习的转换函数进行增强。我们介绍了潜在神经元元胞自动机(LNCA)模型,这是一种新颖的架构,旨在解决神经元元胞自动机的资源限制问题。我们将模型应用于图像恢复领域,以从降质版本中重建高质量图像。此修改不仅降低了模型的资源消耗,还保持了适用于各种应用的灵活框架。我们的模型在保持高重建保真度的同时,实现了显著的计算资源要求降低。这种效率提高使得模型能够处理比当前最先进的神经元元胞自动机模型大 16 倍的输入,使用相同的资源。
Mar, 2024
本文利用神经元细胞自动机(NCA)算法实现了基于单个模板图像的纹理生成器,其中神经元细胞自动机算法提供了一种学习分布式本地算法生成纹理的范例,并具有高保真度和鲁棒性。
May, 2021
本文提出了一种称为 AdaNCA 的适配器神经元细胞自动机(Adaptor Neural Cellular Automata,AdaNCA)的方法,用于 Vision Transformer,通过在 Vision Transformer 层之间插入 NCA 来增强 ViT 的性能和抵抗对抗攻击以及在分布之外的输入时的鲁棒性。在 ImageNet1K 基准测试中,AdaNCA 仅增加不到 3% 的参数,并使准确度在对抗攻击下提高了超过 10% 的绝对值。此外,通过对 8 个鲁棒性基准测试和 4 个 ViT 架构进行广泛评估,证明了 AdaNCA 作为插件模块能够一致提高 ViTs 的鲁棒性。
Jun, 2024