一种针对数字孪生的白盒对抗攻击
通过整合人工智能 / 机器学习（AI / ML）和数字孪生（DT）技术，工业 4.0 见证了复杂机器人的崛起。本文调查了针对 AI 和 DT 模型启用机器人的隐私攻击。讨论了 ML 模型的渗透和数据泄露，以及从一阶模型（如基于物理的模型）中提取模型的潜在能力。我们还讨论了 DT 集成机器人的设计考虑，涉及 ML 模型训练、负责任的 AI 和 DT 保障、数据治理和道德考虑对这些攻击的有效性的影响。我们主张一个可信的自治途径，强调将机器人、人工智能和数字孪生技术与强大的道德框架和可靠性原则相结合，以实现安全可靠的 AI 机器人系统。
Jun, 2024
通过持续数据同化，智能数字孪生系统（SDTs）在多个领域中使用图像数据观察和学习系统行为，并控制其行为，从而提高复杂系统的性能优化。本文聚焦于不断同化物理系统中的图像数据来发展基于图像的 SDTs 的各种方法及相关挑战，并讨论了设计和实现 DL 模型用于 SDTs 所面临的挑战，包括数据采集、处理和解释等方面。此外，还提供了关于发展新的基于图像的 DL 方法以构建稳健 SDTs 的未来方向和机会，包括利用生成模型进行数据增强，开发多模态 DL 模型，以及探索与 5G、边缘计算和物联网等其他技术的融合。本文描述了基于图像的 SDTs，使得数字孪生系统（DT）的范式能够在广泛的领域得到更广泛的应用，并开发新的方法以提高 SDTs 在复制、预测和优化复杂系统行为方面的能力。
Jan, 2024
深度神经网络被广泛用于各种下游任务，尤其是自动驾驶等安全关键场景，但深度网络常常受到对抗样本的威胁。对抗攻击可以分为白盒攻击和黑盒攻击，前者攻击者知道模型的参数和梯度，后者攻击者只能获取模型的输入和输出。攻击者的目的可以分为有目标攻击和非有目标攻击，黑盒设置是我们实践中会遇到的情况。
Aug, 2023
该研究介绍了一种利用黑盒攻击实现远程控制机器学习模型的方法，该攻击方式不需要了解模型内部或训练数据。研究表明该黑盒攻击策略可适用于许多机器学习技术，并且能够规避之前发现的防御策略。
Feb, 2016
对于深度神经网络 (DNNs) 的安全性问题，本文重点关注于物理对抗攻击，总结了 150 篇现有的物理对抗攻击的论文，详细分析了物理对抗攻击的特征、媒介、方法及其效果，并探讨了当前的挑战和未来方向。
Sep, 2022
本文介绍一种 TwinExplainer 系统，其可以解释汽车数据驱动数字孪生系统的预测，并且它可以帮助汽车利益相关者了解传感器通道的全球规模以及它们对通用 DT 预测的贡献。
Feb, 2023
该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。
Jul, 2017
数字孪生网络在网络编排、资源管理和人工智能模型训练及智能推理等方面具有重要作用，是实现 6G 网络的关键技术之一。本文探讨数字孪生网络与人工智能相互促进的机制，并为探索数字孪生网络与人工智能的未来研究方向提供参考。
Sep, 2022
本文提出了一个数字化框架，通过权衡每个层次的利弊，制定数字孪生系统的评价标准，评估所选数字孪生系统对组织流程、策略和价值创造的影响，来帮助实践者选择数字孪生系统中的适当复杂度，同时提出数字孪生系统能提供诸如预测、模拟、人工智能和机器学习等新兴能力的误用选择可能带来的风险。三个实际案例证明了该框架的应用和实用性。
Jan, 2022