基于机器学习的系统的威胁、漏洞和控制：一项调查和分类

Jan, 2023

基于机器学习的系统的威胁、漏洞和控制：一项调查和分类

Threats, Vulnerabilities, and Controls of Machine Learning Based Systems: A Survey and Taxonomy

Yusuke Kawamoto, Kazumasa Miyake, Koichi Konishi, Yutaka Oiwa

TL;DR本文提出了一种人工智能安全分类法，系统化地分类机器学习系统的威胁、漏洞和安全控制。首先分类了针对 ML 系统的攻击，定义了特定于 ML 的安全性并讨论其特点。然后，明确了所有相关资产和利益相关者，并为 ML 特定威胁提供了一般分类法。最后，通过对最近文献的广泛审查，收集了对 ML 特定威胁的各种安全控制措施，并将 ML 系统的漏洞和控制措施按照其整个生命周期中容易受到攻击的资源进行分类。

Abstract

In this article, we propose the artificial intelligence security taxonomy to systematize the knowledge of threats, vulnerabilities, and security controls of machine-learning-based (ML-based) systems. We first cla

artificial intelligence security taxonomy machine-learning-based systems ml-specific security ml-specific threats security controls

发现论文，激发创造

基于机器学习系统的威胁评估

本研究通过分析 89 个真实的机器学习攻击情景，研究机器学习中的威胁特性、识别通用基本应对策略，最终总结出其中的最有针对性的漏洞、攻击手段及其防御方式，以共同为机器学习安全保驾护航。

Jun, 2022

机器学习中安全与隐私科学的探索

ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

Nov, 2016

基于机器学习系统的安全性：在训练和推理期间的攻击和挑战

对机器学习中存在的各种安全威胁、威胁模型及相关挑战进行了简要概述，利用 LeNet 和 VGGNet 对 MNIST 和 GTSRB 等基准进行了安全威胁演示，提出并解决了部分误差影响并较小的攻击方式，并阐述了开发安全措施的相关技术。

Nov, 2018

机器学习中隐私攻击调查

对机器学习中隐私攻击的分类及防御方法进行了研究和探讨。

Jul, 2020

机器学习中的安全和隐私地图

该研究讨论了机器学习算法的威胁模型，提出了三个解决方案：验证和准入控制、可靠的攻击记录机制和安全与隐私的形式化框架，通过这些方案来设计出较好的机器学习系统。

Nov, 2018

评估机器学习系统在对抗攻击方面的漏洞

近期发现的难以察觉的对抗性攻击可能对现有深度学习网络防御系统构成挑战，可能影响未来的网络攻击防御。本文重点研究了此领域，探讨了人工智能系统漏洞的后果，包括其可能出现的原因、随机化和对抗性示例之间的差异以及潜在的伦理问题。此外，在测试阶段适当地训练人工智能系统并使其为广泛使用做好准备也十分重要。

Aug, 2023

机器学习系统的风险

提出了一个上下文敏感的机器学习系统风险框架（MLSR），该框架用于识别机器学习系统的一阶和二阶风险，包括应用、设计、控制等，并将伦理 / 人权风险与系统风险结合起来，为机器学习系统进行全面的风险评估铺平了道路。

Apr, 2022

云基 AI 服务的隐私和安全影响研究

云生态系统中的隐私和安全论文指出，解决机器学习模型引入的风险存在差距，通过调查 AIaaS 领域，提出了一种分类法来全面检查 ML 模型的创作者和消费者所面临的风险及其已知防御措施，为提供方和消费方提供了基础解决方案。

Jan, 2024

机器学习基于物联网生态系统中的攻击揭秘：调查及背后的开放图书馆

通过全面的研究和分析，本文旨在为人工智能在物联网快速发展的领域中保护 ML 模型和数据提供宝贵见解和实际解决方案。

Jan, 2024

电力系统中的机器学习是否存在漏洞？

本文探讨了机器学习在电力系统中的安全性问题，并指出目前大多数算法容易受到对抗性输入数据的攻击，因此需要设计更加健壮和安全的算法。

Aug, 2018