科尔莫戈洛夫-阿诺德卷积:设计原则与实证研究
这篇论文提出了卷积科尔莫戈洛夫 - 阿诺德网络(Convolutional KANs),这是标准卷积神经网络(CNN)的一种创新替代方法,我们将科尔莫戈洛夫 - 阿诺德网络(KANs)中的非线性激活函数集成到卷积中,构建出一个新的层。我们在 MNIST 和 Fashion-MNIST 基准测试中对 Convolutional KANs 的性能进行了实证验证,表明这种新方法在准确性方面保持了类似水平,同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。
Jun, 2024
我们通过对 MNIST、CIFAR10 和 CIFAR100 数据集进行多次试验,使用批量大小为 32,证明了 Kolmogorov-Arnold Network(KAN)在视觉任务中的有效性。研究结果表明,KAN 在 CIFAR10 和 CIFAR100 上优于 MLP-Mixer,但稍逊于最先进的 ResNet-18。本研究揭示了 KAN 在图像分类任务中的潜力,并提出了进一步改进其性能的方向。
Jun, 2024
Kolmogorov-Arnold Networks (KANs) are evaluated for visual modeling in image recognition tasks, comparing their performance and efficiency with conventional models, highlighting their potential and areas for further research.
Jun, 2024
通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测,利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中,KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外,还对 KAN-specific 参数的影响进行了深入研究,为自适应预测模型开辟了新的途径,强调了 KANs 作为强大预测分析工具的潜力。
May, 2024
通过在 Kolmogorov-Arnold 网络结构中引入小波函数,Wav-KAN 提供了一种可解释性和性能得到提升的创新神经网络架构。
May, 2024
本研究提出了一种名为 KCN 的新方法,将 Kolmogorov-Arnold Network(KAN)与各种预训练的卷积神经网络(CNN)模型结合,以用于利用 EuroSAT 数据集进行遥感场景分类任务,取得了高准确性且仅需少量训练轮数和参数,为遥感分类任务中的图像分析提供了一种高效的替代方案。
Jun, 2024
我们引入了图科尔莫哥洛夫 - 阿诺德网络(GKAN),一种创新的神经网络架构,它扩展了最近提出的科尔莫哥洛夫 - 阿诺德网络(KAN)的原理,用于图结构化数据。通过采用 KAN 的独特特性,尤其是使用可学习的单变量函数而不是固定线性权重,我们为基于图的学习任务开发了一个强大的模型。
Jun, 2024
本研究评估了 Kolmogorov-Arnold Networks(KANs)在复杂高光谱图像(HSI)数据分类中的有效性,并提出了一种利用 1D、2D 和 3D KANs 的混合架构,实验证明该 KAN 架构相比于多个基于 CNN 和 ViT 的算法在多个基准数据集上具有竞争力或更好的能力。
Jun, 2024
该研究采用 Wavelet-based Kolmogorov-Arnold Network (wav-kan) 架构来进行高光谱图像分类,利用可学习的小波函数作为激活函数,实现对输入光谱特征的非线性映射,达到有效地捕捉多尺度空间和谱域模式的目的。实验结果表明,该方法在分类性能上优于传统的多层感知器和基于样条曲线的模型,并提出了进一步验证其泛化能力、捕捉尺度不变特征、降维技术对分类性能的影响、优化方法以及与其他同类模型比较的未来工作。
Jun, 2024
研究使用具有固定网络拓扑结构的 Kolmogorov-Arnold 网络(KAN)作为传统多层感知器(MLP)架构的高效可解释替代方法,探讨了 KAN 中平滑性的相关性,并提出了在特定函数类中,具有平滑且结构知情的 KAN 可以达到与 MLP 相等的效果,从而减少训练所需的数据,并降低生成虚假预测的风险,从而提高计算生物医学模型的可靠性和性能。
May, 2024