小波科尔莫哥洛夫 - 阿诺尔德网络 (Wav-KAN)
该研究采用 Wavelet-based Kolmogorov-Arnold Network (wav-kan) 架构来进行高光谱图像分类,利用可学习的小波函数作为激活函数,实现对输入光谱特征的非线性映射,达到有效地捕捉多尺度空间和谱域模式的目的。实验结果表明,该方法在分类性能上优于传统的多层感知器和基于样条曲线的模型,并提出了进一步验证其泛化能力、捕捉尺度不变特征、降维技术对分类性能的影响、优化方法以及与其他同类模型比较的未来工作。
Jun, 2024
本论文介绍了 Wavelet Kolmogorov-Arnold Networks(Wav-KAN)在联邦学习中的开发和应用,并在客户端中实现了 Wav-KAN,通过连续小波变换和离散小波变换实现了多分辨率能力,帮助在客户端之间进行异构数据分布。通过在不同数据集上进行广泛实验,证明了 Wav-KAN 在可解释性、计算速度、训练和测试精度方面具有优越性。我们的联邦学习算法集成了基于小波的激活函数,通过权重、尺度和平移参数化,以提高本地和全局模型性能。结果显示,在计算效率、鲁棒性和准确性方面都有显著改进,突出了小波选择在可扩展神经网络设计中的有效性。
May, 2024
Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.
Apr, 2024
通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测,利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中,KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外,还对 KAN-specific 参数的影响进行了深入研究,为自适应预测模型开辟了新的途径,强调了 KANs 作为强大预测分析工具的潜力。
May, 2024
这篇论文提出了卷积科尔莫戈洛夫 - 阿诺德网络(Convolutional KANs),这是标准卷积神经网络(CNN)的一种创新替代方法,我们将科尔莫戈洛夫 - 阿诺德网络(KANs)中的非线性激活函数集成到卷积中,构建出一个新的层。我们在 MNIST 和 Fashion-MNIST 基准测试中对 Convolutional KANs 的性能进行了实证验证,表明这种新方法在准确性方面保持了类似水平,同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。
Jun, 2024
Kolmogorov-Arnold Networks (KAN) 是 MIT 团队最近提出的一种划时代的模型,提供了一种具有改变游戏规则潜力的创新方法。本文探讨了 KAN 在时间序列预测中的应用,并提出了两个变体:T-KAN 和 MT-KAN。实验证实了这些方法的有效性,证明了它们在时间序列预测任务中显著优于传统方法,不仅提高了预测准确性,还改善了模型的可解释性。
Jun, 2024
本研究探索了使用有理函数作为 Kolmogorov-Arnold 网络的基础函数,并提出了两种不同的方法,基于 Pade 逼近和有理 Jacobi 函数作为可训练的基础函数,建立了有理 KAN (rKAN)。然后,我们评估了 rKAN 在各种深度学习和物理推断任务中的性能,以证明其在函数逼近中的实用性和有效性。
Jun, 2024
我们引入了图科尔莫哥洛夫 - 阿诺德网络(GKAN),一种创新的神经网络架构,它扩展了最近提出的科尔莫哥洛夫 - 阿诺德网络(KAN)的原理,用于图结构化数据。通过采用 KAN 的独特特性,尤其是使用可学习的单变量函数而不是固定线性权重,我们为基于图的学习任务开发了一个强大的模型。
Jun, 2024
本文探讨了 Kolmogorov-Arnold Networks 在计算机视觉领域的应用,提出了参数高效的设计和微调算法,并在图像分类和分割任务中取得了最新成果。
Jul, 2024
研究使用具有固定网络拓扑结构的 Kolmogorov-Arnold 网络(KAN)作为传统多层感知器(MLP)架构的高效可解释替代方法,探讨了 KAN 中平滑性的相关性,并提出了在特定函数类中,具有平滑且结构知情的 KAN 可以达到与 MLP 相等的效果,从而减少训练所需的数据,并降低生成虚假预测的风险,从而提高计算生物医学模型的可靠性和性能。
May, 2024