本研究提出了一种通用的点集操作符 PointMixer，通过在多点集之间进行功能混合，提高了针对点云的神经网络的性能，从而在语义分割、分类和点重建等任务中超过了以 Transformer 为基础的方法。

Nov, 2021

通过引入一种新颖的 CNN 模型 ——PatchMixer，我们解决了 Transformer 模型在时间序列预测任务中面临的挑战，该模型具有可以保留时间信息的排列不变自注意力机制。与传统 CNN 不同的是，我们的方法仅依赖于深度可分离卷积，可以在单一尺度的结构中提取局部特征和全局相关性。试验结果表明，与现有最先进的方法和表现最佳的 CNN 相比，PatchMixer 相对提升了分别为 3.9％和 21.2％，而且速度是最先进方法的 2-3 倍。我们将发布我们的代码和模型。

Oct, 2023

本文提出了一种基于多层感知器 (MLP) 的架构，MLP-Mixer，它不需要使用卷积和注意力机制，包含两种类型的层，一种将 MLP 应用于图像补丁，一种将 MLP 应用于补丁之间的位置信息，具有与现代 CNN 和 Transformer 相媲美的预训练和推理成本，希望鼓励更多超越 CNN 和 Transformer 的研究。

May, 2021

这篇论文介绍了 OpenPatch 方法，它使用预训练模型从中间特征中提取一组描述每个已知类别的补丁表示，在新样本中评估其是否主要由单个已知类别的补丁构成或通过多个类别的贡献来组成，并通过广泛的实验评估展示了其在语义新颖性检测任务中的出色性能。

Oct, 2023

在点云学习领域中，由于 Transformer 模型生成的注意力矩阵具有输入规模的平方复杂度，因此本文提出了一种采用自适应方式学习较小基础上的基础并通过它们的带权求和来计算注意力矩阵的方法 (PAT)，并借助于轻量级的多尺度注意力块（MST）来实现对不同尺度特征的关注，最终构建了一个名为 PatchFormer 的神经网络，为点云学习提供了可比较的准确性，并且比以前的点 Transformers 快 9.2 倍。

Oct, 2021

本文提出了一种名为 PointMLP 的纯残差 MLP 网络，它不使用复杂的局部几何提取器，但仍能表现出很高的竞争力，装备了提出的轻量级几何仿射模块，PointMLP 在多个数据集上都达到了新的最佳状态，相对于大多数最近的 CurveNet，PointMLP 的训练速度快两倍，测试速度快七倍，并在 ModelNet40 基准测试中获得更高的精度。

Feb, 2022

本文介绍 ConvMixer 模型，它使用标准卷积来混合图像块，并在类似参数计数和数据集大小的情况下胜过 ViT、MLP-Mixer 和一些变种，同时也优于经典的 ResNet 等视觉模型。

Jan, 2022

研究了多个神经架构之间的相似性和差异性，通过对耦合流与蝴蝶变换的研究，提出了非线性蝴蝶混合器，包括 Butterfly MLP 和 Butterfly Attention，证明了它们在处理不同维度的输入上的高效性和可扩展性。

Nov, 2023

基于分治法的点云生成框架，通过基于可学习先验的补丁生成器和点块转换器，实现了高保真度点云生成，并在 ShapeNet 数据集上优于最新的高保真度点云生成方法。

Jul, 2023

本文提出了一种基于 patch 的中层面向对象表示方法，将不同类别对象的相似性建模在 patch 级别，使模型更具有通用性，并且提出了一种新的在规范空间中学习 patch 表示的方法，该表示方法对物体的类别不敏感，在训练时只需要较少的数据集，在形状插值和局部点云完成等应用上也有良好的效果。

Aug, 2020