- 通過野生動物再識別增強理解能力
我们通过使用 NumPy 从头实现 MLP,使用 Keras 进行 DCNN,以及使用 LightGBM 进行二元分类器,探索了野生动物重新识别领域,并分析了多模型在多数据集上的性能表现。
- 生成万花筒网络
发现深度 ReLU 网络(或多层感知器架构)表现出 ' 过度泛化 ' 现象并利用这一特性设计了数据集炫斑网络,称为 ' 生成炫斑网络 '。此现象在其他深度学习架构(如 CNNs、Transformers 和 U-Nets)中也观察到,并正在 - 2 型糖尿病患者微量白蛋白尿风险早期检测的监督学习模型
该研究开发了一个监督学习模型,用于预测 T2DM 患者发展尿白蛋白风险,并发现多层感知器(MLP)相较于其他算法表现出更高的准确度和 F1 分数,适用于 T2DM 患者尿白蛋白的筛查目的。
- SegRNN:用于长期时间序列预测的分段循环神经网络
RNN domain prominence has declined in Long-term Time Series Forecasting due to limitations with long look-back windows a - GPT 促进的材料语言处理加速
材料语言处理 (MLP) 是材料科学研究的关键推动者之一,通过从大量的材料科学文献中提取结构化信息,使得研究变得可能。我们开发了基于生成预训练变换器 (GPT) 的流水线工具,其中基于先前 MLP 模型的复杂架构被战略性的提示工程设计所取代 - 学习概率对称化实现架构无关等变性
通过使用一种小型等变网络将概率分布参数化为对称化并对基模型进行端到端训练,本研究提出了一种新的框架来克服等变体系结构在学习具有群对称性的函数方面的局限性。
- fMRI 脑网络的深度标注
研究使用深度学习方法快速准确地标记静息态功能磁共振成像中的脑区网络,通过测试其在不同数据集和磁共振成像获取技术下的表现,证明其通用性和可靠性。
- 机器学习算法和特征提取技术的可预测性
本论文研究了基于矩阵分解的预测系统,旨在预测特定数据集上特定模型的分类准确性。通过超过 50 个数据集的全面实证研究,着重于研究三种基础机器学习算法(随机森林、XGBoost 和 MLP)的性能预测,包括粗调和变体微调模型的可预测性,利用特 - 神经辐射场(NeRFs):综述与一些最近的发展
Neural Radiance Field (NeRF) is a framework representing a 3D scene with MLP, achieving state-of-the-art photorealistic - 基于 Swin Transformer 和多尺度 MLP 的高效 U 形架构用于医学图像分割的 STM-UNet
本文提出了一种基于 Swin Transformer 和多尺度 MLP 的高效 U 形架构,即 STM-UNet,用于医学图像分割,旨在有效利用 Transformer 和 MLP 以提高模型性能和全局特征建模能力,设计了一种新型 PCAS - Transformer 层的神经 ODE 解释
本文提出了一种修改 Transformer 层内部结构的方法,将多头注意力子层和 MLP 子层并行布置,并且结合使用神经 ODE 求解器的高级积分方案,提高了 Transformer 网络在多个任务中的性能。
- AAAI一即全:渐进式体积蒸馏在神经辐射场架构之间的桥梁
本文提出了一种系统的提炼方法 Progressive Volume Distillation,该方法可以让各种神经结构包括 MLP、稀疏或低秩张量、哈希表和它们的组合之间实现任意转换,从而使得各种下游任务可以在后期对神经表示进行最佳适应。
- 预测多药物相互作用的图距离神经网络
本文提出了一种基于图的神经网络 GDNN,通过节点特征和 DDI 类型的已知信息来预测未知的 DDI 类型,其中 GDNN 使用改进后的消息传递框架,采用 MLP 处理来生成最终的预测药物相互作用类型。
- CVPRMobileNeRF:利用多边形光栅化管道在移动架构上高效渲染神经场
本文介绍了一种基于纹理多边形的新型 NeRF 表示方法,能够高效地使用标准渲染管道合成新图像,这种方法允许使用传统的多边形光栅化方法对 NeRF 进行渲染,从而在各种计算平台上实现交互式帧速率。
- PREF: 用于紧凑神经表示的矢量嵌入场
本研究提出一种高效的频率 - 基于的神经表示,使用具有非常大的频率覆盖范围的相量场扩展,旨在捕获高频细节,同时保持紧凑和稳健性。该表示通过组合快速傅里叶变换和局部插值来加速傻瓜傅里叶映射,并使用 Parsvel 調整器穩定基於頻率的學習。
- CVPR全景神经场:一种语义对象感知的神经场景表示
我们提出了全视场神经场(PNF),这是一种对象感知的场景神经表示,可将场景分解为一组对象和背景。每个对象都由一个定向的 3D 边界框和一个多层感知器(MLP)表示,可以采取位置、方向和时间并输出密度和辐射率。
- 基于多模态 Transformer 模型的 Buchwald-Hartwig 反应和 Suzuki-Miyaura 反应产率预测
该研究使用 SMILES 和化学描述符的多类型输入预测化学反应产量,模型由预训练的 BERT 编码器和 MLP 组成,可提高产量预测精度并在 Buchwald-Hartwig 和 Suzuki-Miyaura 反应中测试,同时可以推荐最佳反 - Vision Transformers 三要素
本文提出了三种易于实现的视觉 Transformer 变体。第一,可以在不降低精度的情况下并行处理视觉 Transformer 的残差层。第二,对注意力层的权重进行微调就足以适应更高分辨率和其他分类任务,这节省了计算量,减少了微调时的峰值内 - 表格深度学习中数字特征的嵌入
本研究针对数值特征在计算表格数据方面的表现,提出在深度学习中使用数值特征嵌入提升性能的方法,并重点研究两种不同的嵌入方式,并实现了嵌入在简单 MLP-like 模型与 attention-based 结构中的对比性能提升。
- 适应性扰动模式:用于强健入侵检测的逼真对抗学习
该论文介绍了一种基于自适应扰动模式的方法,用于在灰盒情况下生成具有真实性的对抗样本,通过对企业和物联网网络进行案例研究,证明了该方法提供了可扩展的对抗样本生成技术,并在对抗训练和攻击中具有优势。