科尔莫哥洛夫-阿诺德网络的鲁棒性:对抗性视角
Kolmogorov-Arnold Networks (KANs) are evaluated for visual modeling in image recognition tasks, comparing their performance and efficiency with conventional models, highlighting their potential and areas for further research.
Jun, 2024
这篇论文提出了卷积科尔莫戈洛夫-阿诺德网络(Convolutional KANs),这是标准卷积神经网络(CNN)的一种创新替代方法,我们将科尔莫戈洛夫-阿诺德网络(KANs)中的非线性激活函数集成到卷积中,构建出一个新的层。我们在MNIST和Fashion-MNIST基准测试中对Convolutional KANs的性能进行了实证验证,表明这种新方法在准确性方面保持了类似水平,同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。
Jun, 2024
本文在真实的表格式数据集上进行了 Kolmogorov-Arnold Networks (KANs) 和 Multi-Layer Perceptrons (MLPs) 的基准测试研究,结果显示 KANs 在处理复杂数据时表现出色,但相较于可比较大小的 MLPs,其计算成本较高。
Jun, 2024
我们通过对 MNIST、CIFAR10 和 CIFAR100 数据集进行多次试验,使用批量大小为32,证明了 Kolmogorov-Arnold Network(KAN)在视觉任务中的有效性。研究结果表明,KAN 在 CIFAR10 和 CIFAR100 上优于 MLP-Mixer,但稍逊于最先进的 ResNet-18。本研究揭示了 KAN 在图像分类任务中的潜力,并提出了进一步改进其性能的方向。
Jun, 2024
最近几年,图神经网络 (GNNs) 成为学习节点和图表示的事实上的工具,该论文比较了 KANs 与 MLPs 在图学习任务中的性能,结果表明在分类任务方面两者相当,但在图回归任务上,KANs 具有明显优势。
Jun, 2024
本文探讨了Kolmogorov-Arnold Networks在计算机视觉领域的应用,提出了参数高效的设计和微调算法,并在图像分类和分割任务中取得了最新成果。
Jul, 2024
通过对 Kolmogorov-Arnold 网络(KAN)的全面调查,我们对其理论基础、架构设计、应用场景以及当前研究进展有了深入的了解。KAN 凭借其独特的架构和灵活的激活函数,在处理复杂数据模式和非线性关系方面表现出色,展示了广泛的应用潜力。虽然仍然存在挑战,但 KAN 有望为各个领域的创新解决方案铺平道路,可能彻底改变我们处理复杂计算问题的方式。
Jul, 2024
本研究针对Kolmogorov-Arnold网络(KAN)在传统多层感知机(MLP)面临验证的瓶颈问题,进行了大规模基准数据集上的比较。研究发现,KAN在128个时间序列数据集上的表现可与MLP匹敌,且具有更强的鲁棒性,揭示了KAN及其层在提升模型对抗鲁棒性方面的潜力。
Aug, 2024
本研究解决了Kolmogorov-Arnold网络(KAN)在大规模基准数据集上验证的需求,特别是在时间序列数据领域。通过与传统的多层感知器(MLP)进行比较,研究发现KAN在128个时间序列数据集上的表现可与MLP相媲美,甚至略有提升,同时显示出更强的鲁棒性,具有改进其他模型对抗鲁棒性的潜力。
Aug, 2024
本研究解决了在数据稀缺环境下,多层感知器(MLPs)和 Kolmogorov-Arnold 网络(KANs)之间的有效性差异问题。通过引入具有参数化激活函数的 MLP 设计方法,研究表明在样本量仅为一百左右的情况下,个性化激活函数的 MLP 在预测准确性上显著优于 KAN,提供了关于激活函数选择对神经网络影响的新见解。
Sep, 2024