用于时间序列分类与鲁棒分析的Kolmogorov-Arnold网络(KAN)
Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.
Apr, 2024
通过将Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测,利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中,KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外,还对 KAN-specific 参数的影响进行了深入研究,为自适应预测模型开辟了新的途径,强调了 KANs 作为强大预测分析工具的潜力。
May, 2024
Kolmogorov-Arnold Networks (KAN) 是MIT团队最近提出的一种划时代的模型,提供了一种具有改变游戏规则潜力的创新方法。本文探讨了KAN在时间序列预测中的应用,并提出了两个变体:T-KAN和MT-KAN。实验证实了这些方法的有效性,证明了它们在时间序列预测任务中显著优于传统方法,不仅提高了预测准确性,还改善了模型的可解释性。
Jun, 2024
本文在真实的表格式数据集上进行了 Kolmogorov-Arnold Networks (KANs) 和 Multi-Layer Perceptrons (MLPs) 的基准测试研究,结果显示 KANs 在处理复杂数据时表现出色,但相较于可比较大小的 MLPs,其计算成本较高。
Jun, 2024
我们通过对 MNIST、CIFAR10 和 CIFAR100 数据集进行多次试验,使用批量大小为32,证明了 Kolmogorov-Arnold Network(KAN)在视觉任务中的有效性。研究结果表明,KAN 在 CIFAR10 和 CIFAR100 上优于 MLP-Mixer,但稍逊于最先进的 ResNet-18。本研究揭示了 KAN 在图像分类任务中的潜力,并提出了进一步改进其性能的方向。
Jun, 2024
通过对 Kolmogorov-Arnold 网络(KAN)的全面调查,我们对其理论基础、架构设计、应用场景以及当前研究进展有了深入的了解。KAN 凭借其独特的架构和灵活的激活函数,在处理复杂数据模式和非线性关系方面表现出色,展示了广泛的应用潜力。虽然仍然存在挑战,但 KAN 有望为各个领域的创新解决方案铺平道路,可能彻底改变我们处理复杂计算问题的方式。
Jul, 2024
本研究针对Kolmogorov-Arnold网络(KAN)在传统多层感知机(MLP)面临验证的瓶颈问题,进行了大规模基准数据集上的比较。研究发现,KAN在128个时间序列数据集上的表现可与MLP匹敌,且具有更强的鲁棒性,揭示了KAN及其层在提升模型对抗鲁棒性方面的潜力。
Aug, 2024
本文探讨了科尔莫哥洛夫-阿诺德网络(KANs)在对抗条件下的鲁棒性,尤其是在图像分类任务中的表现。通过评估KANs对标准白盒对抗攻击的性能,并与传统神经网络架构进行比较,文章揭示了KANs在对抗性情况下的独特脆弱性,为未来在这一新兴领域的研究奠定了基础。
Aug, 2024
本研究提出了FC-KAN,一种运用常见数学函数组合的科尔莫哥洛夫-阿诺德网络,旨在解决低维数据处理中的功能组合问题。通过实验,FC-KAN在MNIST和Fashion-MNIST数据集上表现优于其他比较的模型,展示了函数组合在未来KAN设计中的潜力。
Sep, 2024
本研究解决了在数据稀缺环境下,多层感知器(MLPs)和 Kolmogorov-Arnold 网络(KANs)之间的有效性差异问题。通过引入具有参数化激活函数的 MLP 设计方法,研究表明在样本量仅为一百左右的情况下,个性化激活函数的 MLP 在预测准确性上显著优于 KAN,提供了关于激活函数选择对神经网络影响的新见解。
Sep, 2024