工业应用中人工智能的安全性和安全性方面
人工智能正在快速发展,并已成熟用于许多应用领域,如自主系统、医学诊断和自然语言处理。本文概述了确保人工智能决策安全的技术,并讨论了未来的挑战。
Sep, 2023
本研究旨在提供一份综合性的人工智能安全解决方案的最新技术发展情况,研究结果表明,人工智能在汽车工业的应用最为广泛,并且将继续增加对蜂窝通信技术的需求以提高系统的响应速度和可靠性。
May, 2022
云生态系统中的隐私和安全论文指出,解决机器学习模型引入的风险存在差距,通过调查 AIaaS 领域,提出了一种分类法来全面检查 ML 模型的创作者和消费者所面临的风险及其已知防御措施,为提供方和消费方提供了基础解决方案。
Jan, 2024
讨论机器学习与人工智能技术对社会潜在影响的一个问题:机器学习系统中的意外事故风险和如何抵御。我们提出了五个与事故风险相关的实际研究问题,涉及到错误的目标函数、过于昂贵的监督、安全探索和分布变化等方面。最后,思考了如何更具生产力地思考人工智能前瞻性应用的安全问题。
Jun, 2016
本研究探讨基于人工智能的网络威胁检测以保护我们的现代数字生态系统,主要关注评估基于机器学习的分类器和集成模型,用于异常恶意软件检测和网络入侵检测,并探讨如何将这些模型整合到网络安全、移动安全和物联网安全的环境中。讨论重点是在企业系统和 IT 基础设施中部署和整合 AI 增强的网络安全解决方案的挑战,以及克服这些挑战的选择。最后,本文提供了未来研究方向,以进一步增强我们现代数字产业、基础设施和生态系统的安全性和韧性。
Oct, 2023
对机器学习中存在的各种安全威胁、威胁模型及相关挑战进行了简要概述,利用 LeNet 和 VGGNet 对 MNIST 和 GTSRB 等基准进行了安全威胁演示,提出并解决了部分误差影响并较小的攻击方式,并阐述了开发安全措施的相关技术。
Nov, 2018
机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义,然而,当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性,因此需要制定适用于人工智能的规范和监管标准,提出可信的人工智能认证方法和工具。
Sep, 2023
本论文旨在明确机器学习安全的定义,并通过研究智能决策科学和数据产品等应用领域,探讨实现机器学习安全的四种策略,包括内在安全设计、安全保护垫、安全失败和程序保护,并提出相应的技术方法和异议函数,以确保解释性、因果性、人工参与和用户体验设计等方面的安全性。
Oct, 2016