关于预测稳定性
本研究提出了一种可扩展的分层预测方法,利用基础时间序列的系数对分层约束进行建模,并使用一个随时间变化的线性自回归模型,同时考虑了相对时间序列预测的协调约束,实验证明该方法相较于现有分层模型具有显著的预测性能提升。
Jun, 2021
我们专注于从贝叶斯角度进行预测调和,提出了一种方法来预测调和,并定义了具有线性结构的普通情况 - 线性高斯调和。我们在合成和真实数据集上评估了这些方法,并将它们与该领域的其他工作进行了比较。
Aug, 2023
本研究提出了一种混合模型,将经典时间序列模型与基于深度神经网络的模型结合起来,通过全局深度组件实现可扩展性和数据驱动,同时通过本地经典模型处理不确定性。实验证明,该模型在数据效率、准确性和计算复杂性方面具有优势。
May, 2019
这篇论文提出了非参数基线模型用于时间序列预测,不同于传统的预测模型,该方法不需要对预测分布进行参数化假设,而是通过从经验分布中根据可调节的策略进行采样来生成预测。此方法总是能够产生合理的预测(即在观测数据范围内的预测),而不像传统模型在某些数据分布上存在数值稳定性问题。此外,我们还开发了基于多个相关时间序列利用信息自动学习采样策略的全局版本。通过实证评估,证明了这些方法在所有数据集上都具有合理且一致的性能,可以被视为强大的基准模型。
Dec, 2023
本研究探讨了机器学习模型的稳定性问题,提出了评估模型稳定性的方法,并发现网络架构和输入表示等模型设计选择对稳定性有重大影响,推荐在进行建模选择时考虑准确性和抖动之间的权衡。
Jan, 2022
本文针对循环神经网络的稳定性进行了深入探究,理论上证明在推断和通过梯度下降进行训练时,稳定循环神经网络可以很好地被前馈网络近似。实验上,我们展示了基准序列任务中稳定循环模型通常能够和不稳定的对应物一样好地发挥作用。这些发现揭示了循环网络的有效力量,并暗示序列学习的大部分发生在稳定的状态下。此外,我们的结果有助于解释为什么在许多情况下,实践者成功地通过前馈模型取代循环模型。
May, 2018
通过使用经验稳定性的概念,我们提出了一种正则化方法,该方法根据初始模型中的不确定性对数据点进行加权,并提供了在可预测性和经验稳定性之间取得平衡的算法,通过调整超参数来调节这种平衡。结果表明,所提出的更新方法在改善稳定性的同时实现了类似或更好的预测性能。这表明在更新回归树时可以实现预测性和稳定的结果。
Feb, 2024
线性模型在时间序列预测方面表现出色,特征归一化改善了模型泛化能力;分析了可使用这些线性模型体系结构表示的函数集合;证明了几种流行的线性模型变体等效于标准的无约束线性回归;每个模型可以重新解释为在适当增强的特征集上的无约束线性回归,因此在使用均方损失函数时具有闭式解;实验证明所检验模型的学习解几乎相同,进一步证明简洁的闭式解在 72%的测试情景中是更好的预测模型。
Mar, 2024
通过调整回归分析中的稳定和不稳定预测来考虑不同实验或环境的分布变化,引入了稳定回归分析的方法,使之前未见过的环境下的回归能力得到优化,应用于系统生物学研究中的假设生成并与因果模型建立理论关联,给出了优化的稳定点,并证明了在该点回归预测模型的预测误差最小。
Nov, 2019
提出了一种将随机波动模型更改为具有特殊协方差函数的分层高斯过程模型的方法,使其可以根据历史数据产生真正的后验分布,同时还将基于大量已研究的领域的启发式设计用于多任务学习,实现了比基线模型更好的股票和风速预测。
Jul, 2022