Jun, 2024

fKAN：具有可训练雅可比基函数的分数阿诺德网络

PDF
TL;DR该论文介绍了一种称为 Fractional Kolmogorov-Arnold Network（fKAN）的神经网络结构，它结合了 Kolmogorov-Arnold Networks（KANs）独特属性以及可训练的自适应分数正交 Jacobi 函数作为基本函数。通过利用分数 Jacobi 函数的独特数学特性，包括简单的导数公式、非多项式行为以及对正负输入值的活动性，该方法确保了高效的学习和提高的准确性。该论文通过在深度学习和基于物理的深度学习任务中进行评估，测试了该架构的性能，其中包括合成回归数据、图像分类、图像去噪以及情感分析。此外，对各种微分方程进行了性能测试，包括普通微分方程、偏微分方程和分数延迟微分方程。结果表明，将分数 Jacobi 函数整合到 KANs 中可以显著提高训练速度和在不同领域和应用中的性能。
neural network designkolmogorov-arnold networksfractional kolmogorov-arnold networktrainable adaptive fractional-orthogonal jacobi functiondeep learning
发现论文，激发创造
  • rKAN: 理性 Kolmogorov-Arnold 网络

    本研究探索了使用有理函数作为 Kolmogorov-Arnold 网络的基础函数，并提出了两种不同的方法，基于 Pade 逼近和有理 Jacobi 函数作为可训练的基础函数，建立了有理 KAN (rKAN)。然后，我们评估了 rKAN 在各种深度学习和物理推断任务中的性能，以证明其在函数逼近中的实用性和有效性。

    Jun, 2024

  • 卷积科尔莫哥洛夫 - 阿诺德网络

    这篇论文提出了卷积科尔莫戈洛夫 - 阿诺德网络（Convolutional KANs），这是标准卷积神经网络（CNN）的一种创新替代方法，我们将科尔莫戈洛夫 - 阿诺德网络（KANs）中的非线性激活函数集成到卷积中，构建出一个新的层。我们在 MNIST 和 Fashion-MNIST 基准测试中对 Convolutional KANs 的性能进行了实证验证，表明这种新方法在准确性方面保持了类似水平，同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。

    Jun, 2024

  • Kolmogorov-Arnold 网络（KANs）用于时间序列分析

    通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测，利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中，KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外，还对 KAN-specific 参数的影响进行了深入研究，为自适应预测模型开辟了新的途径，强调了 KANs 作为强大预测分析工具的潜力。

    May, 2024

  • 有限基础的科尔莫哥洛夫 - 阿诺德网络：数据驱动和物理启发问题的域分解

    使用有限基础 Kolmogorov-Arnold 网络（FBKANs）和域分解方法，可以通过在并行中训练多个小型网络来解决多尺度问题，得到对噪声数据和物理相关训练具有准确结果的科学机器学习方法。

    Jun, 2024

  • KAN：科尔莫哥洛夫－阿诺德网络

    Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.

    Apr, 2024

  • 图科尔莫戈洛夫 - 阿诺德网络

    我们引入了图科尔莫哥洛夫 - 阿诺德网络（GKAN），一种创新的神经网络架构，它扩展了最近提出的科尔莫哥洛夫 - 阿诺德网络（KAN）的原理，用于图结构化数据。通过采用 KAN 的独特特性，尤其是使用可学习的单变量函数而不是固定线性权重，我们为基于图的学习任务开发了一个强大的模型。

    Jun, 2024

  • 平滑的科尔莫戈洛夫・阿诺德网络启用结构知识表征

    研究使用具有固定网络拓扑结构的 Kolmogorov-Arnold 网络（KAN）作为传统多层感知器（MLP）架构的高效可解释替代方法，探讨了 KAN 中平滑性的相关性，并提出了在特定函数类中，具有平滑且结构知情的 KAN 可以达到与 MLP 相等的效果，从而减少训练所需的数据，并降低生成虚假预测的风险，从而提高计算生物医学模型的可靠性和性能。

    May, 2024

  • 小波科尔莫哥洛夫 - 阿诺尔德网络 (Wav-KAN)

    通过在 Kolmogorov-Arnold 网络结构中引入小波函数，Wav-KAN 提供了一种可解释性和性能得到提升的创新神经网络架构。

    May, 2024

  • Kolmogorov-Arnold 网络是径向基函数网络

    这篇简短论文是关于用高斯径向基函数很好地近似 Kolmogorov-Arnold 网络（KANs）中使用的 3 阶 B 样条的快速概念验证。通过这样做，得到了 FastKAN，这是一种比 KAN 更快速的径向基函数网络。

    May, 2024

  • 基于切比雪夫多项式的科尔莫哥洛夫－阿诺德网络：一种用于非线性函数逼近的高效架构

    基于 Chebyshev 多项式的 Chebyshev Kolmogorov-Arnold 网络（Chebyshev KAN）是一种新颖的方法，结合了 Kolmogorov-Arnold 定理的理论基础和 Chebyshev 多项式的强大逼近能力，以准确逼近复杂非线性函数。

    May, 2024