- 如何学习更多?探索科尔莫哥罗夫 - 阿诺德网络用于高光谱图像分类
本研究评估了 Kolmogorov-Arnold Networks(KANs)在复杂高光谱图像(HSI)数据分类中的有效性,并提出了一种利用 1D、2D 和 3D KANs 的混合架构,实验证明该 KAN 架构相比于多个基于 CNN 和 V - 基于表格数据的 Kolmogorov-Arnold 网络的基准研究
本文在真实的表格式数据集上进行了 Kolmogorov-Arnold Networks (KANs) 和 Multi-Layer Perceptrons (MLPs) 的基准测试研究,结果显示 KANs 在处理复杂数据时表现出色,但相较于可 - 利用 KANs 提升深度库普曼算子发现
利用 KANs 和 MLP DNNs 进行了深度 Koopman 理论的比较,结果显示 KANs 在训练速度、参数效率和预测准确性方面都优于 MLP DNNs,表现出在深度 Koopman 理论发展中的潜力。
- CVPR变形医学图像配准的相关感知粗到细多层感知器
本研究提出了基于多窗口感知的 MLP 网络(CorrMLP)用于可变形医学图像配准,通过新颖的粗到细的配准架构捕捉细粒度的多范围依赖关系,进行多范围感知的粗到细配准,实验证明 CorrMLP 优于最先进的可变形配准方法。
- 多层感知器学习上下文
在这项研究中,我们发现多层感知器(MLPs)和密切相关的 MLP-Mixer 模型可以像 Transformer 模型一样有效地进行上下文学习,并且在一些涉及关系推理的任务中,MLPs 表现更优,这一结果挑战了以往对简单连通模型的一些假设。
- NeRO:神经道路表面重建
本研究介绍了一种利用多层感知机(MLPs)框架来通过输入的世界坐标 x 和 y 在高度、颜色和语义信息方面重构道路表面的新方法。我们的方法 NeRO 使用基于 MLPs 的编码技术,显著提高了对复杂细节的性能,并加快了训练速度,减小了神经网 - Kolmogorov-Arnold 网络(KANs)用于时间序列分析
通过将 Kolmogorov-Arnold Networks (KANs) 应用于时间序列预测,利用它们的自适应激活函数来增强预测建模能力。证明了在实际卫星流量预测任务中,KANs 相对于传统的多层感知机 (MLPs) 能够以更准确的结果和 - KAN:科尔莫哥洛夫-阿诺德网络
Kolmogorov-Arnold Networks (KANs) are proposed as alternatives to Multi-Layer Perceptrons (MLPs), outperforming them in - Intel 数据中心 GPU 上的完全融合多层感知器
SYCL 实现的多层感知器在 Intel 数据中心 GPU 上表现出较高的性能和算术强度。
- 一种双重自蒸馏的无教师图知识蒸馏框架
无需师生模型或图神经网络,纯基于多层感知器的图自蒸馏 (TGS) 框架在训练中利用结构信息进行自知识蒸馏,从而在推理中无数据依赖,显著提高了多层感知器的性能,并在六个真实数据集上超过最先进的图知识蒸馏算法。此外,TGS 的推理速度比现有 G - 用于高效普适形态控制的形态条件化超网络蒸馏
通过 HyperDistill 方法,我们能够在不同机器人形态之间学习一种通用策略,从而显著提高学习效率,并且实现对未见过形态的机器人的零 - shot 泛化,同时保持了与 transformers 相似的性能和与 multi-layer - 利用外部知识资源实现领域特定的理解
通过利用知识图谱与预训练语言模型的嵌入空间相结合的方法,我们对领域特定的文本数据进行了对齐和融合,从而实现与领域特定模型相似的性能表现。
- 关于使用带位置编码的 MLP 学习 SDF 的最佳采样
通过傅立叶分析的方法,我们提出了一种简单而有效的估算具有随机权重的神经网络的固有频率的方法,并根据此频率的奈奎斯特 - 香农采样定理,确定了适当的训练采样率。通过使用我们的采样策略训练具有位置编码的多层感知机(MLP),我们证明其性能优于现 - 全分辨率 MLP 加强医学密集预测
本研究针对医学图像恢复、配准和分割等医学视觉任务中的密集预测问题,提出了一种以多层感知器为基础的全分辨率分层框架,通过利用全图像分辨率下的组织级纹理信息,该框架可以在医学图像上实现长程依赖关系,并在多个公共数据集上的广泛实验中展示出超越卷积 - 频域多层感知机在时间序列预测中的更高学习能效
将 MLP 应用于频域的时间序列预测方法称为 FreTS,并在 13 个真实世界基准测试中展现出与现有方法相比的显著优势。
- 一元径向基函数图层:适用于低维输入的脑启发式深度神经网络图层
深度神经网络(DNN)已成为高维输入数据函数逼近的标准工具,但许多现实世界中的问题具有低维输入,对于这些问题,标准的多层感知器(MLPs)是默认选择。我们提出了一种称为单变量径向基函数(U-RBF)层的新颖 DNN 层,作为一种替代选择。类 - EMOFM: 带有基于特征混合器的集成 MLP 模型用于点击率预测
使用简单的插件混合器构建了基于字段 / 类型的特征融合的集成 MLP 模型 EMOFM(具有特征混合器的集成 MLP 模型),并通过实验验证其优于基线模型的表现。
- MC-MLP: 基于多坐标系的全 MLP 视觉架构
MC-MLP 是一个类似于 MLP 的通用骨干网络,通过对特征信息执行正交变换以改变特征的坐标系提高了在不同坐标系下学习信息的能力,在图像分类任务中表现出更好的性能。
- SpArX: 神经网络的稀疏论证解释
利用多层感知器和定量论证框架之间的关系,提供关于多层感知器机制的论证解释方法,比现有方法更准确,同时深入洞察多层感知器的实际推理过程。
- 通过训练动态了解基于坐标的多层感知器的谱偏差
本研究通过梯度混淆,对基于坐标的多层感知器(coordinate-based MLP)中的谱偏差进行了研究,发现当表现能力受限时混淆程度增加,导致其收敛速度变慢,同时也发现了谱偏差降低时激活区域的特性。