本文提出了分层时序记忆（HTM）的序列记忆，使用无监督的 Hebbian-like 学习规则可以连续学习大量变序列。 HTM 序列记忆能够处理多元序列及预测，还具有连续的在线学习、处理多元及多分支序列的能力、传感器噪声稳健性和容错性等优点，可应用于离散和连续序列预测、异常检测和序列分类等多领域。

Dec, 2015

通过模仿人脑记忆层次结构，我们提出了分层记忆 Transformer（HMT）框架，以提高模型的长上下文处理能力，并通过在限定上下文和长上下文模型上的评估验证了其有效性。

May, 2024

这篇论文介绍了一种针对不稳定、部分可观测环境下决策的在线隐藏表示学习方法。提出的分布式赫比时态记忆（DHTM）算法基于因子图形式和多组分神经元模型，它旨在捕捉序列数据关系，并对未来观察作出累积预测，形成继承者表示。经实验证明，DHTM 算法在应对动态环境中的时序差异学习方面表现优于经典 LSTM，并与更高级的类似 RNN 的算法相当，加速了继承者表示中的时间差异学习。此外，我们将 DHTM 产生的继承者表示与另一种生物启发的类 HMM 算法 CSCG 进行了比较，发现 DHTM 是解决在线隐藏表示学习动态环境挑战的一种有前途的方法。

Oct, 2023

本篇论文描述了如何将数据编码为少量分布式表示（SDRs），并将其用于 HTM 系统，这是一种生物学启发的机器智能技术，模拟了新皮层的结构和过程。

Feb, 2016

通过使用多尺度层次掩蔽时间序列建模方法，HiMTM 在提升多尺度特征提取能力的同时，通过实验证明其在时间序列预测准确性上具有明显优势，并在天然气需求预测领域得到了有效应用。

Jan, 2024

使用基于双曲几何的层级主题模型（HyHTM）可以更好地对主题进行建模，使得特定的低级主题与相应的高级主题关联更紧密。同时，该模型也具备更高的计算效率和更小的内存占用。

May, 2023

提出了一种基于层次多任务学习框架（HMTL）的气候投影方法，该方法使用多任务学习公式实现特定气候变量的空间投影，并添加了组套索正则化以便在给定的空间位置上利用不同气候变量之间的关系。结果显示相比于其他方法，HMTL 方法可以更有效地实现气候变量的投影。

Jan, 2017

在动态云环境中，使用预测自动缩放来预测服务器的工作负载，并提前准备资源以确保服务水平目标（SLOs）。然而，在实践中，由于外部事件（例如销售促销活动和应用程序重新配置）导致的异常流量，其预测任务通常会遭受性能下降的影响。针对这个问题，我们提出了一种基于回放的持续学习方法，即基于密度的内存选择和基于提示的网络学习模型（DMSHM），只使用历史记录的一小部分来实现准确的预测。我们同时还展示了 DMSHM 在真实工业应用中杰出的实用性。

Jul, 2023

本文提出了一种基于注意力机制的层次化多标签学术文本分类算法，该算法结合了文本、关键词和层次结构等特征，利用 word2vec 和 BiLSTM 来获取文本、关键词和层次结构的嵌入式和潜在向量表示，并使用分层注意机制来捕捉关键词、标签层次结构和文本词向量之间的关联，以生成特定于分层的文档嵌入向量取代 HMCN-F 中的原始文本嵌入。实验结果显示，该算法具有较好的效果。

Mar, 2022

HAILS 是一种新颖的概率层次模型，通过自适应地对不同分布假设的稀疏和密集时间序列进行建模，以遵循层次约束，从而实现层次结构中的精确和校准的概率预测。通过在实际需求预测数据集上进行评估，我们展示了我们方法的可扩展性和有效性。我们在一家大型化工制造公司部署 HAILS 进行产品需求预测应用，涵盖了成千上万个产品，结果显示预测准确性提高了 8.5％，稀疏时间序列的改进提高了 23％。增强的准确性和可扩展性使 HAILS 成为改进商业规划和客户体验的有价值工具。

Jul, 2024