AAAIMar, 2022

DuMLP-Pin：一种双 MLP 点积置换不变网络，用于集合特征提取

PDF
TL;DR本文提出了一种基于双 MLP 点积的新型全局聚合置换不变网络 ——DuMLP-Pin，可以用于提取集合输入的特征，包括无序或非结构化像素、属性和点云数据集。实验证明，DuMLP-Pin 在像素集和属性集的分类问题上取得了最佳结果，在点云分类和部分分割问题上精度非常接近到目前为止表现最好的本地聚合方法，而所需的参数数量在分类和分割上分别减少了超过 85% 和 69%。
发现论文，激发创造
  • 使用集合和点云进行深度学习

    介绍了用于深度学习的简单置换等变层，通过参数共享获得并且在每个集合的大小上具有线性时间复杂度。 使用深度置换不变网络执行点云分类和 MNIST 数字求和，其中在两种情况下输出都不变于输入的置换。在半监督设置中，我们展示了这种层类型在集合异常检测以及带有指导信息的半监督学习中的有用性。

    Nov, 2016

  • Mini-PointNetPlus：一种用于三维环境感知的深度学习模型的局部特征描述器

    通过使用 mini-PointNetPlus，我们提出了一种新的局部特征描述子，用于在深度学习模型中提取点云的特征，并在实验证明其能够显著提高三维感知的性能。

    Jul, 2023

  • 点变换器

    该研究介绍了一种名为 Point Transformer 的神经网络，它直接处理无序和无结构的点集，通过引入局部 - 全局注意机制获取局部和全局特征，并通过引入 SortNet 确保输入置换不变性。Point Transformer 的输出是一个排序并且置换不变的特征列表，可直接用于常见的计算机视觉应用。研究结果表明，与先前的工作相比，其在标准分类和部分分割基准测试中具有有竞争力的结果。

    Nov, 2020

  • PINNsFormer：基于 Transformer 的物理信息神经网络框架

    提出了一种名为 PINNsFormer 的基于 Transformer 的新型框架，通过在 Transformer 模型中利用多头注意力机制捕捉时间依赖关系，准确地近似了偏微分方程（PDE）的解。PINNsFormer 不仅适应了输入向量到伪序列和基于点的 PINNs 损失到序列 PINNs 损失的转变，还配备了一种名为 Wavelet 的新型激活函数，通过深度神经网络预估了傅里叶分解。通过大量实验，验证了 PINNsFormer 在多种情景下捕获 PDE 解的能力，并与传统 PINNs 相比，以极小的计算和内存成本，实现了更高的近似精度。

    Jul, 2023

  • 在点云中重新思考网络设计和本地几何：一个简单的残差 MLP 框架

    本文提出了一种名为 PointMLP 的纯残差 MLP 网络，它不使用复杂的局部几何提取器，但仍能表现出很高的竞争力，装备了提出的轻量级几何仿射模块，PointMLP 在多个数据集上都达到了新的最佳状态，相对于大多数最近的 CurveNet，PointMLP 的训练速度快两倍，测试速度快七倍，并在 ModelNet40 基准测试中获得更高的精度。

    Feb, 2022

  • PointNet++：在度量空间中对点集进行深层次分层特征学习

    本研究提出了一种基于层级神经网络的深度学习算法，可以递归应用 PointNet 模型在输入点集的嵌套划分上，并通过度量空间距离利用上下文信息进行学习，同时通过自适应的集合学习层将不同规模的特征组合，从而有效地、鲁棒地学习点集特征，达到了显著优于当前最先进方法的效果。

    Jun, 2017

  • 增强法线嵌入的点云分析点变形网络

    该论文提出了一种基于简洁的 MLP 网络的 Point Deformable Network (PDNet)，它能够捕捉到具有强大表征能力的长程关系。论文还提出了 Point Deformable Aggregation Module (PDAM)，通过对可变形参考点的聚合，改进了长程依赖和点之间的自适应聚合的表示能力。在各种基准测试中进行了大量实验和消融研究，证明了 PDNet 的有效性和优越性。

    Dec, 2023

  • PointVector：点云分析中的向量表示

    本文探讨了基于点云的方法在点云分析中的应用，提出了一种聚合邻近特征的高维向量的 “Vector-oriented Point Set Abstraction” 方法，并开发了一种 PointNeXt 结构的 PointVector 模型以提高特征提取的效率，此方法在 S3DIS Area 5 上和 S3DIS (6 折交叉验证) 上取得了 72.3% 和 78.4% 的 mIOU 的优异表现，在研究中探索了更加紧凑和有效的特征表示方法。

    May, 2022

  • PointMixer: MLP-Mixer 用于点云理解

    本研究提出了一种通用的点集操作符 PointMixer，通过在多点集之间进行功能混合，提高了针对点云的神经网络的性能，从而在语义分割、分类和点重建等任务中超过了以 Transformer 为基础的方法。

    Nov, 2021

  • PatchMixer：重新思考网络设计以提升三维点云理解的泛化性能

    本文提出了 PatchMixer 架构，通过处理局部补丁和使用 MLP 聚合补丁特征，将 MLP-Mixer 的思想扩展到 3D 点云中，以提高深度网络架构的泛化性能。

    Jul, 2023