mlp-mixer | BriefGPT - AI 论文速递

关键词mlp-mixer

搜索结果 - 15

展示科尔莫戈洛夫 - 阿诺德网络在视觉任务中的效力
我们通过对 MNIST、CIFAR10 和 CIFAR100 数据集进行多次试验，使用批量大小为 32，证明了 Kolmogorov-Arnold Network（KAN）在视觉任务中的有效性。研究结果表明，KAN 在 CIFAR10 和
PDF13 days ago
NiNformer：一种带有令牌混合生成门控函数的网络中网络 Transformer
该论文介绍了一种用于减少计算负担的新的计算模块，通过替换标准的注意力层为具有动态学习元素级门控函数的网络结构，增强了 MLP Mixer 的静态方法，从而在图像分类任务中比基准架构表现更好。
PDF4 months ago
Mixer 不仅仅是一个模型
这篇研究论文介绍了一种名为 ASM-RH 的新型模型，它结合了时间和频率域的特点，特别适用于音频数据，并在多个分类任务中取得了有希望的成果。
PDF4 months ago
将组织病理原型融合为稳健的幻灯片级别表征用于癌症亚型划分
通过特征嵌入和聚类的组合方法，将全幻灯片图像预处理为一个减少的原型表示，并作为合适的 MLP-Mixer 结构的输入，以达到与当前最先进的方法相当的性能，同时降低计算时间和内存负载的训练成本。
PDF8 months ago
多尺度分解 MLP-Mixer 用于时序分析
提出了一种名为 MSD-Mixer 的多尺度分解 MLP-Mixer 模型，该模型通过学习将时间序列分解成不同的组成部分，并在不同层级上表示这些组成部分，以处理多尺度时间模式和通道间的依赖关系。通过在各种实际数据集上进行广泛实验，包括长期和
PDF9 months ago
MLP-Mixer 作为一个宽且稀疏的多层感知机
本文研究了多层感知机，重点探究了其深化效果和改进方法。其中提出了 MLP-Mixer 与宽 MLP 具有稀疏权重的相关性，并从预测性能优化的角度进行了实验验证。
PDFa year ago
DC CoMix TTS：一种具有离散编码和混合器合作的端到端表现力语音合成技术
本文提出了一种新的输入表示和简单体系结构，通过引入离散码到参考编码器的输入，利用音频压缩模型的向量量化器来实现改进的韵律建模。在主观和客观评估中证明了该方法的有效性，即离散码作为输入时参考编码器学习更好的说话人无关韵律。
PDFa year ago
iMixer：分层 Hopfield 网络实现可逆、隐式、迭代的 MLP-Mixer
本文研究了一种基于 Hopfield 网络的新型神经网络模型 iMixer，对多个图像分类数据集的实验结果显示其表现优于传统 MLP-Mixer 模型，揭示了 Hopfield 网络与 Mixers 之间的关联可作为 Transformer
PDFa year ago
基于 MLP-Mixer 神经网络的多视角多标签异常网络流分类
本文提出了一种基于 MLP-Mixer 的多视图多标签神经网络用于网络流量分类，将报文分为报文头和报文体，并从不同的视图输入报文的流特征，通过利用不同场景之间的相关性来改善分类性能，在三个公共数据集上进行了实验，结果表明我们的方法可以取得更
PDF2 years ago
Transformer vs. MLP-Mixer: 自然语言处理问题的指数表达差距
本文分析了基于 MLP 的体系结构模拟多个不同输入之间依赖关系的表达能力，并展示了注意力机制和基于 MLP 的机制之间的指数差距，从而提供了 MLP 无法与注意力机制在 NLP 问题中竞争的理论解释。此外，文中还提出，MLP 相对于注意力机
PDF2 years ago
pNLP-Mixer: 一种用于语言处理的高效全 MLP 结构
介绍了一种低内存、低延迟基于 MLP-Mixer 的 pNLP-Mixer 模型，通过在语言学上指导投影层，实现了高效的语义分析，达到了与 38 倍参数的 mBERT 相当的性能。
PDF2 years ago
ECCVPointMixer: MLP-Mixer 用于点云理解
本研究提出了一种通用的点集操作符 PointMixer，通过在多点集之间进行功能混合，提高了针对点云的神经网络的性能，从而在语义分割、分类和点重建等任务中超过了以 Transformer 为基础的方法。
PDF3 years ago
Vision Transformer 和 MLP-Mixer 在对抗鲁棒性方面与 CNN 的比较
本文比较了卷积神经网络 (CNN)、Vision Transformer (ViT) 和 MLP-Mixer 的抗对抗攻击性能，并发现新提出的网络结构 ViT 和 MLP-Mixer 比 CNN 更加鲁棒，其中频率分析表明，最具鲁棒性的 V
PDF3 years ago
S$^2$-MLP: 视觉任务空间平移 MLP 架构
本文提出一种新颖的 MLP 架构，空间平移 MLP (S$^2$-MLP)，只包含通道混合 MLP，利用局部接收场进行补丁之间的通信，其参数自由且计算效率高，比 MLP-Mixer 在 ImageNet-1K 数据集上获得更高的识别精度，同
PDF3 years ago
MLP-Mixer: 一种用于视觉的全 MLP 架构
本文提出了一种基于多层感知器 (MLP) 的架构，MLP-Mixer，它不需要使用卷积和注意力机制，包含两种类型的层，一种将 MLP 应用于图像补丁，一种将 MLP 应用于补丁之间的位置信息，具有与现代 CNN 和 Transformer
PDF3 years ago