Oct, 2024

科尔莫哥洛夫-阿诺德网络自编码器

HTML
PDF
TL;DR本研究解决了多层感知器（MLP）在数据表示任务中的局限性，提出了科尔莫哥洛夫-阿诺德网络（KAN）作为替代方案。通过将激活函数置于边上，与科尔莫哥洛夫-阿诺德表示定理相一致，KAN提高了模型的准确性和可解释性。我们的实验结果表明，KAN自编码器在重构准确性方面表现出色，证实了其在数据分析中的有效性。
发现论文，激发创造
  • KAN：科尔莫哥洛夫－阿诺德网络

    Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.

    Apr, 2024

  • KAN在计算机视觉中的适用性：初步调查

    Kolmogorov-Arnold Networks (KANs) are evaluated for visual modeling in image recognition tasks, comparing their performance and efficiency with conventional models, highlighting their potential and areas for further research.

    Jun, 2024

  • 卷积科尔莫哥洛夫-阿诺德网络

    这篇论文提出了卷积科尔莫戈洛夫-阿诺德网络（Convolutional KANs），这是标准卷积神经网络（CNN）的一种创新替代方法，我们将科尔莫戈洛夫-阿诺德网络（KANs）中的非线性激活函数集成到卷积中，构建出一个新的层。我们在MNIST和Fashion-MNIST基准测试中对Convolutional KANs的性能进行了实证验证，表明这种新方法在准确性方面保持了类似水平，同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。

    Jun, 2024

  • 基于表格数据的 Kolmogorov-Arnold 网络的基准研究

    本文在真实的表格式数据集上进行了 Kolmogorov-Arnold Networks (KANs) 和 Multi-Layer Perceptrons (MLPs) 的基准测试研究，结果显示 KANs 在处理复杂数据时表现出色，但相较于可比较大小的 MLPs，其计算成本较高。

    Jun, 2024

  • 展示科尔莫戈洛夫-阿诺德网络在视觉任务中的效力

    我们通过对 MNIST、CIFAR10 和 CIFAR100 数据集进行多次试验，使用批量大小为32，证明了 Kolmogorov-Arnold Network（KAN）在视觉任务中的有效性。研究结果表明，KAN 在 CIFAR10 和 CIFAR100 上优于 MLP-Mixer，但稍逊于最先进的 ResNet-18。本研究揭示了 KAN 在图像分类任务中的潜力，并提出了进一步改进其性能的方向。

    Jun, 2024

  • 科尔莫戈洛夫－阿诺德卷积：设计原则与实证研究

    本文探讨了Kolmogorov-Arnold Networks在计算机视觉领域的应用，提出了参数高效的设计和微调算法，并在图像分类和分割任务中取得了最新成果。

    Jul, 2024

  • 时间序列分类与鲁棒性分析的Kolmogorov-Arnold网络（KAN）

    本研究针对Kolmogorov-Arnold网络（KAN）在传统多层感知机（MLP）面临验证的瓶颈问题，进行了大规模基准数据集上的比较。研究发现，KAN在128个时间序列数据集上的表现可与MLP匹敌，且具有更强的鲁棒性，揭示了KAN及其层在提升模型对抗鲁棒性方面的潜力。

    Aug, 2024

  • 用于时间序列分类与鲁棒分析的Kolmogorov-Arnold网络（KAN）

    本研究解决了Kolmogorov-Arnold网络（KAN）在大规模基准数据集上验证的需求，特别是在时间序列数据领域。通过与传统的多层感知器（MLP）进行比较，研究发现KAN在128个时间序列数据集上的表现可与MLP相媲美，甚至略有提升，同时显示出更强的鲁棒性，具有改进其他模型对抗鲁棒性的潜力。

    Aug, 2024

  • 重新想象线性探测：转移学习中的Kolmogorov-Arnold网络

    本研究针对传统线性探测方法在转移学习中无法建模复杂数据关系的局限性，提出了使用Kolmogorov-Arnold网络(KAN)作为替代方案。研究结果表明，KAN在多种配置下均显著提升了准确性和泛化能力，提供了比传统线性探测更强大和灵活的替代方案。

    Sep, 2024

  • 低数据条件下的 Kolmogorov-Arnold 网络：与多层感知器的比较研究

    本研究解决了在数据稀缺环境下，多层感知器（MLPs）和 Kolmogorov-Arnold 网络（KANs）之间的有效性差异问题。通过引入具有参数化激活函数的 MLP 设计方法，研究表明在样本量仅为一百左右的情况下，个性化激活函数的 MLP 在预测准确性上显著优于 KAN，提供了关于激活函数选择对神经网络影响的新见解。

    Sep, 2024