LETS-C: 基于语言嵌入的时间序列分类
TimeNet是一个基于循环神经网络的深度非监督学习模型，使用序列到序列模型从多个时间序列中提取特征，可用作时间序列的通用特征提取器，并且通过实验证明，使用TimeNet特征提取器训练的分类器能够显著提高分类效果。
Jun, 2017
该研究探讨了使用时间序列编码器学习适用于其未经训练的数据集类型的表示，性能优越，适应性强，可用于处理标记稀疏或未标记的时间序列数据，并通过卷积神经网络和注意机制等多种方法使其性能更加优异。
May, 2018
我们利用预训练的大型语言模型 (LLMs) 提升时间序列预测的能力，通过结合时间序列拼接和时间编码，增强了LLMs处理时间序列数据的能力，采用两阶段的精调过程，并采用多种参数高效精调技术 (PEFT)，LLM4TS在长期预测方面取得了最先进的结果。
Aug, 2023
该综述论文详细探讨了利用大型语言模型进行时间序列分析的各种方法，包括直接提示、时间序列量化、对齐技术、利用视觉作为桥梁机制以及与其他工具的结合，同时提供了现有的多模态时间序列和文本数据集的综合概述，并分析了该新兴领域的挑战和未来机会。
Feb, 2024
利用预训练的大型语言模型（LLM）的语义空间，通过学习从共同空间获得的提示信息，在时间序列嵌入空间中执行时间序列预测，展示了优于现有基准的预测性能，并验证了受语义空间提供的提示学习的必要性。
Mar, 2024
通过使用预训练语言模型，本研究提出了InstructTime，将时间序列分类重塑为学习生成范式，并将任务特定指令和原始时间序列作为多模态输入，通过文本表示标签信息，实现了在时间序列分类中的卓越性能和通用基础模型的潜力。
Mar, 2024
提出了一个评估大型语言模型（LLM）在时间序列理解方面能力的框架，包括单变量和多变量形式；通过研究时间序列的特征以及设计和合成数据集来评估LLMs在时间序列理解方面的能力，并揭示了LLMs对数据格式、查询数据的位置和时间序列长度等因素的敏感性。
Apr, 2024
在大型语言模型中，尤其是在时间序列预测方面，进行了一系列消融研究，发现移除语言模型组件或用基本的注意力层替换并不降低预测结果，甚至在大多数情况下结果有所提升。此外，预训练的语言模型并不比从头开始训练的模型更好，不能准确表示时间序列中的顺序依赖关系，也不能在小样本场景中提供帮助。同时，研究了时间序列编码器，揭示了贴片和注意力结构与基于最新技术的LLM的预测模型效果相似。
Jun, 2024
本研究解决了当前预训练语言模型在分析不规则时间序列（ISTS）方面的不足，提出了一种新的方法来提升这些模型的有效性。通过构建一个统一的基于预训练语言模型的框架IST-PLM，并在不同分析任务上进行广泛实验，研究结果表明该框架在分类、插值和外推等任务中均取得了优越表现，显示出其在医疗和生物力学等科学领域的广泛应用潜力。
Aug, 2024