Oct, 2016

机器学习安全性：网络物理系统、决策科学和数据产品

PDF
TL;DR本论文旨在明确机器学习安全的定义，并通过研究智能决策科学和数据产品等应用领域，探讨实现机器学习安全的四种策略，包括内在安全设计、安全保护垫、安全失败和程序保护，并提出相应的技术方法和异议函数，以确保解释性、因果性、人工参与和用户体验设计等方面的安全性。
machine learningsafetyriskcyber-physical systemsdata products
发现论文，激发创造
  • 机器学习中的工程安全

    本文探讨了机器学习算法越来越在日常生活中影响我们的决策和与我们互动，因此我们必须考虑涉及机器学习的系统的安全性，本文提出了四种不同的实现安全性的策略，并讨论了应用中可能存在的不完全符合现代统计机器学习基本原则的因素。

    Jan, 2016

  • 人工智能安全中的具体问题

    讨论机器学习与人工智能技术对社会潜在影响的一个问题：机器学习系统中的意外事故风险和如何抵御。我们提出了五个与事故风险相关的实际研究问题，涉及到错误的目标函数、过于昂贵的监督、安全探索和分布变化等方面。最后，思考了如何更具生产力地思考人工智能前瞻性应用的安全问题。

    Jun, 2016

  • 系统安全和人工智能

    本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

    Feb, 2022

  • 机器学习安全中尚未解决的问题

    通过提出四个安全性问题：鲁棒性、监控风险、降低内在模型风险和降低系统风险，本篇研究为机器学习的安全性提供了新的技术路线和解决方案。

    Sep, 2021

  • 自主驾驶汽车中的机器学习安全实用解决方案

    本文讨论了自动驾驶汽车中的机器学习安全性问题，总结了一些实用的机器学习安全技术，以增强算法的可靠性和安全性，并讨论了机器学习组件的安全性限制和用户体验方面。

    Dec, 2019

  • 学习能力安全关键系统的可证明保证究竟是什么

    机器学习在安全关键领域的使用依然存在挑战，论文讨论了这些挑战，提出了一种基于两步验证方法的可证明统计保证实现的方式。

    Jul, 2023

  • 图机器学习的安全性：威胁与保障

    探讨了提高图机器学习（Graph ML）安全性的三个关键方面：可靠性、泛化能力和保密性，并采用一种新的分类法分析了与这些方面相关的威胁，指导评估有效策略来保护图 ML 模型的安全性，为未来的研究奠定基础。

    May, 2024

  • 一个计算轻量级的安全学习算法

    在这篇论文中，我们提出了一种安全学习算法，通过使用 Nadaraya-Watson 估计器而不是高斯过程，提供概率安全保证，并且在数据点数量方面实现对数级别的扩展。我们为估计结果提供了理论保证，将其嵌入到一个安全学习算法中，并在模拟的七自由度机器人操纵器上进行了数值实验。

    Sep, 2023

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 针对学习型医疗智能物理系统开展安全保障案例的探索

    本文提供了一个机器学习（ML）控制器在学习式医疗物理系统（MCPS）中的安全保障方案，特别是在建立对基于 ML 的预测的信心方面，以胰岛素泵系统（APS）为代表的具体应用为例，通过实现深度神经网络用于 APS 预测，检查 ML 数据的充分性并使用形式化验证分析 ML 预测的正确性，最后概述此方案基于经验开放的研究问题。

    Nov, 2022