该研究通过整合卡尔曼滤波器和分析曲线区域来增强线性回归模型,以最小化损失。目标是使用随机梯度下降(SGD)开发一个最佳线性回归方程进行权重更新。
Aug, 2023
本文介绍了一种基于梯度下降逼近的 Kalman 滤波方法,其仅需要进行加权预测误差的局部计算,同时还提出了一种适应性学习规则。作者在一个简单的 Kalman 滤波任务中展示了该方法的性能,并提出了一种神经实现方法。
Feb, 2021
通过分析最小二乘估计器的变体,,提出了一种半参数噪声估计算法,可以解决具有偏差,半参数噪声的估计问题,同时可以应用于部分观测线性系统参数的估计,且对于长期依赖问题的方差引入具有可减少的能力.
Feb, 2019
本文研究了 Kalman filter 在时间序列预测和分析中的应用,证明了当过程噪声非退化时,预测的依赖关系呈指数衰减。由此推导出基于少量最近观测的 LDS 线性动态系统在线算法。它的更新运行时间与回归深度成线性关系。
Sep, 2018
这篇研究论文探索了一种新的 Kalman 滤波器,它适用于具有重尾分布的噪声和误差,使用 “尾协方差” 矩阵来求解。与标准的 Kalman-Gaussian 滤波器相比,在使用这种滤波器时,新的观察结果会被一定程度的减弱,特别是对于尾指数较小的情况。
Apr, 2000
该论文提出了一种使用时间生成模型进行反事实推断的方法,利用统一算法高效地学习广谱卡尔曼滤波器,其中还引入了 “Healing MNIST” 数据集用于建模,并基于 8000 名患者超过 4.5 年的电子病历数据显示了其对反事实推断的有效性。
Nov, 2015
该研究提出了一种高效的在线近似贝叶斯推断算法,用于从可能的非静态数据流中估计非线性函数的参数,并通过使用后验精度矩阵的新型低秩加对角线分解,使每步成本与模型参数数量呈线性关系,与基于随机变分推断的方法相比,我们的方法是完全确定性的,不需要步长调整,并显示实验表明,这导致学习速度更快(更节约样本),从而更快地适应不断变化的分布,并作为上下文强化学习算法的一部分积累奖励更快。
May, 2023
该研究通过概率隐变量序列模型,使用前向算法实现连续状态 Kalman 滤波器来学习单词的表示。通过 EM 算法准确地优化参数,使用所学习到的单词嵌入作为标记任务的特征,在标记任务中实现显著的准确度改进,并通过线性递归神经网络通过我们的模型的参数来初始化非线性递归神经网络语言模型,降低了其训练时间和困惑度。
Feb, 2015
优化型卡尔曼滤波 (KF) 在非线性滤波中通过优化 KF 参数,使其与神经网络模型相似,从而替代 KF 在真实系统中的应用。
Oct, 2023
利用变分推断学习参数化分析映射,通过估计条件分布对于动态系统的滤波分布,在过滤线性和非线性动态系统中也适用。
Jun, 2024