Oct, 2022
建模长期时间依赖性的小批量学习策略：环境应用研究
Mini-Batch Learning Strategies for modeling long term temporal dependencies: A study in environmental applications
Shaoming Xu, Ankush Khandelwal, Xiang Li, Xiaowei Jia, Licheng Liu...
TL;DR本文研究如何提高 RNN 模型在环境应用中的性能，主要通过对 Stateful RNN 模型策略的数量比较及两种依赖策略的提出来解决 batch 间（inter-batch）及 batch 内（intra-batch）的时间关联性问题，其中一种策略为将 batch 定义为时间上有序的一组训练片段从而促进 batch 内部时间信息的共享，另一种策略为在训练片段中增加目标变量的初始值以减少训练时间，该方法在水文模型中表现出显著的性能提升。