Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.

Apr, 2024

这篇论文提出了卷积科尔莫戈洛夫-阿诺德网络（Convolutional KANs），这是标准卷积神经网络（CNN）的一种创新替代方法，我们将科尔莫戈洛夫-阿诺德网络（KANs）中的非线性激活函数集成到卷积中，构建出一个新的层。我们在MNIST和Fashion-MNIST基准测试中对Convolutional KANs的性能进行了实证验证，表明这种新方法在准确性方面保持了类似水平，同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。

Jun, 2024

本文在真实的表格式数据集上进行了 Kolmogorov-Arnold Networks (KANs) 和 Multi-Layer Perceptrons (MLPs) 的基准测试研究，结果显示 KANs 在处理复杂数据时表现出色，但相较于可比较大小的 MLPs，其计算成本较高。

Jun, 2024

我们通过对 MNIST、CIFAR10 和 CIFAR100 数据集进行多次试验，使用批量大小为32，证明了 Kolmogorov-Arnold Network（KAN）在视觉任务中的有效性。研究结果表明，KAN 在 CIFAR10 和 CIFAR100 上优于 MLP-Mixer，但稍逊于最先进的 ResNet-18。本研究揭示了 KAN 在图像分类任务中的潜力，并提出了进一步改进其性能的方向。

Jun, 2024

用可学习的正弦函数替代可学习的基本样条函数可以在MNIST基准测试中提供更好或相当的数值性能，并且速度提高了4-9倍。

Jul, 2024

本研究针对Kolmogorov-Arnold网络（KAN）在传统多层感知机（MLP）面临验证的瓶颈问题，进行了大规模基准数据集上的比较。研究发现，KAN在128个时间序列数据集上的表现可与MLP匹敌，且具有更强的鲁棒性，揭示了KAN及其层在提升模型对抗鲁棒性方面的潜力。

Aug, 2024

本研究解决了Kolmogorov-Arnold网络(KAN)在不同任务中的性能降低问题，提出了一种自适应选择激活模式的可选择激活空间KAN(S-KAN)。实验结果表明，S-KAN在七个函数拟合任务中超过了基线方法，并在四个通用图像分类数据集上优于同等参数水平的多层感知器(MLP)方法，推动了新人工智能范式的数据中心化设计理解。

Aug, 2024

本研究解决了Kolmogorov-Arnold网络（KAN）在大规模基准数据集上验证的需求，特别是在时间序列数据领域。通过与传统的多层感知器（MLP）进行比较，研究发现KAN在128个时间序列数据集上的表现可与MLP相媲美，甚至略有提升，同时显示出更强的鲁棒性，具有改进其他模型对抗鲁棒性的潜力。

Aug, 2024

本文探讨了科尔莫哥洛夫-阿诺德网络（KANs）在对抗条件下的鲁棒性，尤其是在图像分类任务中的表现。通过评估KANs对标准白盒对抗攻击的性能，并与传统神经网络架构进行比较，文章揭示了KANs在对抗性情况下的独特脆弱性，为未来在这一新兴领域的研究奠定了基础。

Aug, 2024

本研究针对传统变压器中多层感知器层的限制，提出了一种新架构——科尔莫戈洛夫-阿诺德变压器（KAT），通过使用科尔莫戈洛夫-阿诺德网络（KAN）层来提高模型的表现力和性能。研究中提出的三大解决方案有效地克服了在现代硬件上实施KAN时的计算效率和权重初始化挑战，使KAT在性能上显著超越了传统基于MLP的变压器。

Sep, 2024