Jun, 2024

全球增量式学习：适用于跨异构数据集的人类活动识别的 KAN

PDF
TL;DR本研究提出了一种对可穿戴传感器人体活动识别（HAR）进行增量学习的框架，该框架同时解决了两个挑战：灾难性遗忘和非均匀输入。该框架（称为 iKAN）使用 Kolmogorov-Arnold 网络（KAN）作为分类器，利用样条函数的局部可塑性和全局稳定性，通过适应任务特定的特征分支和特征重新分配层来将 KAN 调整为适用于 HAR。与现有的主要调整输出维度或分类器节点数量以适应新任务的增量学习方法不同，iKAN 着重扩展特征提取分支以适应来自不同传感器模态的新输入，同时保持一致的维度和分类器输出数量。该研究通过在六个公共 HAR 数据集上持续学习，展示了 iKAN 框架的增量学习性能，其最终性能为 84.9％（加权 F1 分数），平均增量性能为 81.34％，明显优于两种现有的增量学习方法 EWC（51.42％）和经验重播（59.92％）。
incremental learningwearable sensorhuman activity recognitioncatastrophic forgettingnon-uniform inputs
发现论文，激发创造
  • 以科尔莫戈洛夫 - 阿诺德网络（KANs）作为基于 IMU 的人体活动识别特征提取器的初步研究

    本研究探讨了一种新颖的神经网络架构，Kolmogorov-Arnold Networks（KANs），作为传感器（特别是 IMU）人体活动识别（HAR）的特征提取器。通过在每个节点的边缘上进行表示为 B-SPLINES 的非线性计算，并在节点处对输入进行求和，KANs 实现了非线性计算，而不是学习权重，系统学习样条参数。通过将 KAN 实现为 IMU 人体活动识别任务的特征提取架构，并包括四种架构变体，对 KAN 特征提取器在四个公共 HAR 数据集上进行了初步性能调查。结果表明，KAN 基于的特征提取器在所有数据集上优于基于 CNN 的提取器，并且参数更高效。

    Jun, 2024

  • KAN 在计算机视觉中的适用性：初步调查

    Kolmogorov-Arnold Networks (KANs) are evaluated for visual modeling in image recognition tasks, comparing their performance and efficiency with conventional models, highlighting their potential and areas for further research.

    Jun, 2024

  • Kolmogorov-Arnold 网络（KANs）用于时间序列分析

    通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测，利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中，KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和更少的可学习参数提供更好的性能。此外，还对 KAN-specific 参数的影响进行了深入研究，为自适应预测模型开辟了新的途径，强调了 KANs 作为强大预测分析工具的潜力。

    May, 2024

  • U-KAN 为医学图像分割和生成提供了强大的骨干

    我们通过将 KAN 层整合到中间表示中，探索了 Kolmogorov-Arnold 网络（KANs）在改进视觉任务的骨干网络中的潜力，并证明了 U-KAN 在医学图像分割中的优越性。

    Jun, 2024

  • 时间序列的科尔莫戈洛夫 - 阿诺德网络：预测能力与可解释性之间的桥梁

    Kolmogorov-Arnold Networks (KAN) 是 MIT 团队最近提出的一种划时代的模型，提供了一种具有改变游戏规则潜力的创新方法。本文探讨了 KAN 在时间序列预测中的应用，并提出了两个变体：T-KAN 和 MT-KAN。实验证实了这些方法的有效性，证明了它们在时间序列预测任务中显著优于传统方法，不仅提高了预测准确性，还改善了模型的可解释性。

    Jun, 2024

  • 平衡连续学习与微调在人类活动识别中的应用

    基于可穿戴式设备的人体活动识别是以人为中心的机器学习中的关键任务之一，该研究探索了采用和调整 CaSSLe 和 Kaizen 模型的方案来实现可穿戴式设备的人体活动识别，并研究了不同损失项之间的平衡与知识保留的权衡。

    Jan, 2024

  • 小波科尔莫哥洛夫 - 阿诺尔德网络 (Wav-KAN)

    通过在 Kolmogorov-Arnold 网络结构中引入小波函数，Wav-KAN 提供了一种可解释性和性能得到提升的创新神经网络架构。

    May, 2024

  • 图科尔莫戈洛夫 - 阿诺德网络

    我们引入了图科尔莫哥洛夫 - 阿诺德网络（GKAN），一种创新的神经网络架构，它扩展了最近提出的科尔莫哥洛夫 - 阿诺德网络（KAN）的原理，用于图结构化数据。通过采用 KAN 的独特特性，尤其是使用可学习的单变量函数而不是固定线性权重，我们为基于图的学习任务开发了一个强大的模型。

    Jun, 2024

  • SpectralKAN: 霍尔莫斯彭－阿诺德网络用于高光谱图像变化检测

    使用深度学习方法，我们提出了一种名为 SpectralKAN 的光谱 Kolmogorov-Arnold 网络，用于高光谱图像变化检测（HSIs-CD），通过多变量连续函数及激活函数组合进行特征提取和分类，并成功验证了其在 HSIs-CD 的高准确性和较低的资源需求。

    Jul, 2024

  • KAN：科尔莫哥洛夫－阿诺德网络

    Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in terms of accuracy and interpretability, while possessing faster neural scaling laws; KANs have potential to improve current deep learning models.

    Apr, 2024