Jun, 2024

以科尔莫戈洛夫 - 阿诺德网络（KANs）作为基于 IMU 的人体活动识别特征提取器的初步研究

PDF
TL;DR本研究探讨了一种新颖的神经网络架构，Kolmogorov-Arnold Networks（KANs），作为传感器（特别是 IMU）人体活动识别（HAR）的特征提取器。通过在每个节点的边缘上进行表示为 B-SPLINES 的非线性计算，并在节点处对输入进行求和，KANs 实现了非线性计算，而不是学习权重，系统学习样条参数。通过将 KAN 实现为 IMU 人体活动识别任务的特征提取架构，并包括四种架构变体，对 KAN 特征提取器在四个公共 HAR 数据集上进行了初步性能调查。结果表明，KAN 基于的特征提取器在所有数据集上优于基于 CNN 的提取器，并且参数更高效。
发现论文，激发创造
  • Kolmogorov-Arnold 网络（KANs）用于时间序列分析

    通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测，利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中，KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外，还对 KAN-specific 参数的影响进行了深入研究，为自适应预测模型开辟了新的途径，强调了 KANs 作为强大预测分析工具的潜力。

    May, 2024

  • GraphKAN: 用图科尔莫戈洛夫阿诺德网络增强特征提取

    大量的应用涉及嵌入在非欧几里得空间中的具有潜在关系的数据。图神经网络 (GNNs) 用于通过捕捉图中的依赖关系来提取特征。尽管具有突破性的性能，但我们认为多层感知器 (MLPs) 和固定激活函数阻碍了特征提取，因为信息丢失。受科尔莫戈洛夫 - 阿诺德网络 (KANs) 的启发，我们首次尝试将 GNN 与 KANs 结合使用。我们放弃了 MLPs 和激活函数，而是使用 KANs 进行特征提取。实验证明了 GraphKAN 的有效性，强调了 KANs 作为强大工具的潜力.

    Jun, 2024

  • KAN 在计算机视觉中的适用性：初步调查

    Kolmogorov-Arnold Networks (KANs) are evaluated for visual modeling in image recognition tasks, comparing their performance and efficiency with conventional models, highlighting their potential and areas for further research.

    Jun, 2024

  • 卷积科尔莫哥洛夫 - 阿诺德网络

    这篇论文提出了卷积科尔莫戈洛夫 - 阿诺德网络（Convolutional KANs），这是标准卷积神经网络（CNN）的一种创新替代方法，我们将科尔莫戈洛夫 - 阿诺德网络（KANs）中的非线性激活函数集成到卷积中，构建出一个新的层。我们在 MNIST 和 Fashion-MNIST 基准测试中对 Convolutional KANs 的性能进行了实证验证，表明这种新方法在准确性方面保持了类似水平，同时只使用了一半的参数。这种参数量的显著减少打开了推进神经网络架构优化的新途径。

    Jun, 2024

  • 全球增量式学习：适用于跨异构数据集的人类活动识别的 KAN

    本研究提出了一种对可穿戴传感器人体活动识别（HAR）进行增量学习的框架，该框架同时解决了两个挑战：灾难性遗忘和非均匀输入。该框架（称为 iKAN）使用 Kolmogorov-Arnold 网络（KAN）作为分类器，利用样条函数的局部可塑性和全局稳定性，通过适应任务特定的特征分支和特征重新分配层来将 KAN 调整为适用于 HAR。与现有的主要调整输出维度或分类器节点数量以适应新任务的增量学习方法不同，iKAN 着重扩展特征提取分支以适应来自不同传感器模态的新输入，同时保持一致的维度和分类器输出数量。该研究通过在六个公共 HAR 数据集上持续学习，展示了 iKAN 框架的增量学习性能，其最终性能为 84.9％（加权 F1 分数），平均增量性能为 81.34％，明显优于两种现有的增量学习方法 EWC（51.42％）和经验重播（59.92％）。

    Jun, 2024

  • KAN：科尔莫哥洛夫－阿诺德网络

    Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.

    Apr, 2024

  • 时间序列的科尔莫戈洛夫 - 阿诺德网络：预测能力与可解释性之间的桥梁

    Kolmogorov-Arnold Networks (KAN) 是 MIT 团队最近提出的一种划时代的模型，提供了一种具有改变游戏规则潜力的创新方法。本文探讨了 KAN 在时间序列预测中的应用，并提出了两个变体：T-KAN 和 MT-KAN。实验证实了这些方法的有效性，证明了它们在时间序列预测任务中显著优于传统方法，不仅提高了预测准确性，还改善了模型的可解释性。

    Jun, 2024

  • 远程感知中的卫星图像分类的 Kolmogorov-Arnold 网络

    本研究提出了一种名为 KCN 的新方法，将 Kolmogorov-Arnold Network（KAN）与各种预训练的卷积神经网络（CNN）模型结合，以用于利用 EuroSAT 数据集进行遥感场景分类任务，取得了高准确性且仅需少量训练轮数和参数，为遥感分类任务中的图像分析提供了一种高效的替代方案。

    Jun, 2024

  • 图科尔莫戈洛夫 - 阿诺德网络

    我们引入了图科尔莫哥洛夫 - 阿诺德网络（GKAN），一种创新的神经网络架构，它扩展了最近提出的科尔莫哥洛夫 - 阿诺德网络（KAN）的原理，用于图结构化数据。通过采用 KAN 的独特特性，尤其是使用可学习的单变量函数而不是固定线性权重，我们为基于图的学习任务开发了一个强大的模型。

    Jun, 2024

  • 如何学习更多？探索科尔莫哥罗夫 - 阿诺德网络用于高光谱图像分类

    本研究评估了 Kolmogorov-Arnold Networks（KANs）在复杂高光谱图像（HSI）数据分类中的有效性，并提出了一种利用 1D、2D 和 3D KANs 的混合架构，实验证明该 KAN 架构相比于多个基于 CNN 和 ViT 的算法在多个基准数据集上具有竞争力或更好的能力。

    Jun, 2024