本文研究线性模型在时间序列预测中的能力，提出了一个基于多层感知机的模型 TSMixer，通过在时间和特征维度上的混合操作提取信息。TSMixer 在常见的学术基准测试中表现出和专业模型类似的性能，在真实世界的 M5 基准测试数据集上表现出比先进模型更好的性能。本文的结果强调了有效利用交叉变量和辅助信息以提高时间序列预测性能的重要性，并且预计 TSMixer 的设计范例会为基于深度学习的时间序列预测开启新的视野。

Mar, 2023

通过引入一种新颖的 CNN 模型 ——PatchMixer，我们解决了 Transformer 模型在时间序列预测任务中面临的挑战，该模型具有可以保留时间信息的排列不变自注意力机制。与传统 CNN 不同的是，我们的方法仅依赖于深度可分离卷积，可以在单一尺度的结构中提取局部特征和全局相关性。试验结果表明，与现有最先进的方法和表现最佳的 CNN 相比，PatchMixer 相对提升了分别为 3.9％和 21.2％，而且速度是最先进方法的 2-3 倍。我们将发布我们的代码和模型。

Oct, 2023

通过小波分析验证理论并提出基于 Transformer 的 TwinS 模型，通过 Wavelet Convolution、Period-Aware Attention 和 Channel-Temporal Mixed MLP 解决非平稳周期分布问题，在多元时间序列预测任务中比主流模型表现出 SOTA 性能。

Jun, 2024

本文研究关注机制在时间序列预测性能上的作用，提出 MTS-Mixers 来解决捕获时间和通道互动中的交错和冗余问题，并证明了关注机制不是捕获时间依赖关系的必要条件。

Feb, 2023

TSMixer 是一个轻量级的神经架构，由多层感知机模块组成，旨在为补丁时间序列提供高效的替代转换器。通过添加在线对账头，混合通道建模和简单的门控关注机制等组件，TSMixer 的学习能力得到显著提高。TSMixer 在预测方面的性能优于现有的 MLP 和 Transformer 模型，同时可显著减少存储器和运行时间。

Jun, 2023

提出了非平稳 Transformer，通过序列平稳化和去平稳化注意力机制恢复内在非平稳信息，极大地提高了主流 Transformer 模型的性能，使它们成为时间序列预测领域的最佳模型。

May, 2022

基于全 MLP 框架，WindowMixer 模型通过窗口视角检查时间序列的时间变化，将时间序列分解为趋势和季节性组件，并使用 Intra-Window-Mixer 和 Inter-Window-Mixer 模块处理窗口间和窗口内的关系，从而捕捉数据中的复杂模式和长期依赖关系，实验证明 WindowMixer 在长期和短期预测任务中始终优于现有方法。

Jun, 2024

利用多尺度混合的方法进行时间序列预测，通过提取微观和宏观信息来解决复杂的时间变化，并通过 Past-Decomposable-Mixing (PDM) 和 Future-Multipredictor-Mixing (FMM) 块实现全面的多尺度系列的预测，同时在长期和短期预测任务中取得了一致的最先进性能，并具有良好的运行时效率。

May, 2024

利用 AutoMixer 模型对 Biz-KPI 进行预测，提高了预测准确性，并产生实用的商业见解。

Oct, 2023

时间序列预测任务基于历史信息预测未来趋势。本文提出了一种对称和分层的框架，Kernel-U-Net，它在网络的每一层将输入序列切分成片段，然后使用内核对其进行计算。与现有的线性或 Transformer 解决方案相比，我们的模型具有三个优势：1）参数较小，2）灵活性，3）计算效率。在六个（七个中的五个）真实数据集上，Kernel-U-Net 的准确性大于或等于最先进模型的准确性。

Jan, 2024