概率自回归预测模型的对抗攻击

Mar, 2020

Adversarial Attacks on Probabilistic Autoregressive Forecasting Models

Raphaël Dang-Nhu, Gagandeep Singh, Pavol Bielik, Martin Vechev

TL;DR我们针对神经模型输出概率分布序列的情况，开发了一种更有效的对抗攻击方法。我们解决的关键技术挑战是如何通过蒙特卡罗估计输出序列的联合分布统计量。此外，我们将概率预测的先前工作扩展到贝叶斯设置中，可以对未来观测进行调节。我们证明了这种方法可以在股票市场交易和电力消耗预测等两项关键任务中成功生成具有小输入扰动的攻击。

Abstract

We develop an effective generation of adversarial attacks on neural models that output a sequence of probability distributions rather than

adversarial attacks neural models probability distributions monte-carlo estimation probabilistic forecasting

发现论文，激发创造

深度自回归循环网络的概率预测

该论文提出 DeepAR 方法，通过基于大量相关时间序列训练自回归循环网络模型，实现准确的概率预测，并在多个真实预测数据集上展示了与现有方法相比约 15％的准确度提升。

Apr, 2017

针对时间序列预测的攻击

本论文提出了一种新的面向时间序列预测模型的 DA-TAA 攻击方式，通过对模型预测的振幅和方向进行精确打击，增强了攻击的有效性，在实验中对比了有无目标的攻击方式，结果呈现出更高的统计意义，且难以用统计方法检测，这提出了新的挑战和考虑，需要更好的防御措施。

Jan, 2023

时空交通预测模型的实践性对抗攻击

本文研究了机器学习在交通预测模型中的漏洞，提出了一个实用的敌对空间时间攻击框架，该框架通过迭代渐变引导节点显著性方法来识别受害节点的时间相关集，进而设计一种空间时间渐变下降算法来生成有实值的敌对交通状态，并在两个实际数据集上进行了广泛的实验。结果表明，该攻击框架达到了各种先进空间时间预测模型高达 67.8% 的性能降级，同时展示了在我们提议的攻击训练下的算法的鲁棒性的显著提高。

Oct, 2022

关于概率序列模型的高效边缘化

使用自回归模型回答超出单步预测的复杂概率查询，包括未来事件的时机和特定事件在另一事件发生之前的可能性。通过开发一类宽泛的、高效的近似技术，对顺序模型中的边缘化进行建模。这些技术仅依赖于对预先训练的自回归模型的下一步条件分布的访问和采样，包括传统参数模型和最近的神经自回归模型。针对离散顺序模型、标记的时间点过程和随机跳跃过程，提出了具体的方法，每个方法都适用于一类明确定义的信息丰富、长程概率查询。

Mar, 2024

AdvDO：基于实际场景的轨迹预测对抗性攻击

本文提出了一种优化型对抗攻击框架，旨在研究基于数据的轨迹预测系统的对抗鲁棒性。通过模拟实验，展示了该攻击框架可以有效地增加不同度量指标的预测误差，甚至可以导致自动驾驶汽车离开道路或与其他车辆碰撞。同时，本文还探讨并提出了一种对抗训练策略来减轻对抗攻击的影响。

Sep, 2022

生成概率时间序列预测及其在电网运营中的应用

利用弱创新自动编码器建立生成概率预测模型，可应用于电力价格预测等领域，展示了在多种预测指标上超过主要概率和点预测技术的卓越性能。

Feb, 2024

DANLIP：用于局部可解释概率预测的深度自回归网络

本文提出了模型，这是一种基于深度学习的概率时间序列预测结构，具有内在可解释性。我们通过多个数据集和性能度量进行实验，并经验证明，我们的模型不仅具有可解释性，而且还提供了与最先进的概率时间序列预测方法相当的性能。此外，我们证明了解释感兴趣的随机过程的参数可以为多个应用领域提供有用的见解。

Jan, 2023

鲁棒性强的时空交通预测与强化动态对抗训练

提出机器学习方法用于交通预测时的防御措施，包括加强动态防御能力和降低模型过拟合；在真实交通数据集上验证其优于其他基线模型的表现，并有效地提高交通预测模型的防御能力。

Jun, 2023

扰乱批次数据以操纵隐马尔可夫模型推断

时间序列模型在对数据流进行估计时通常假设数据没有被破坏。然而，本研究提供了一种新颖的概率视角，探讨了自私的对手如何通过破坏数据来操纵隐马尔可夫模型的推断，进而影响决策者的结论。研究中开发了一套考虑实际不确定性和不同攻击目标的数据破坏问题，提出了三种从频率主义和贝叶斯主义角度解决问题的方法，并通过大量经验测试证明了每种方法的有效性。该研究强调了隐马尔可夫模型在面对对手活动时的弱点，从而促使我们采取鲁棒化技术来保证其安全。

Feb, 2024

通过对抗攻击愚弄神经网络进行运动预测

人体运动预测的敌对攻击实验表明，类似于图像分类中的初始阶段，针对 GCN 和基于 MLP 的多回归模型进行的广泛实验表明模型在较低程度的扰动下容易受到攻击，以及简单的 3D 变换能够影响模型的性能。

Mar, 2024