Jan, 2016

机器学习中的工程安全

PDF
TL;DR本文探讨了机器学习算法越来越在日常生活中影响我们的决策和与我们互动，因此我们必须考虑涉及机器学习的系统的安全性，本文提出了四种不同的实现安全性的策略，并讨论了应用中可能存在的不完全符合现代统计机器学习基本原则的因素。
发现论文，激发创造
  • 机器学习安全性：网络物理系统、决策科学和数据产品

    本论文旨在明确机器学习安全的定义，并通过研究智能决策科学和数据产品等应用领域，探讨实现机器学习安全的四种策略，包括内在安全设计、安全保护垫、安全失败和程序保护，并提出相应的技术方法和异议函数，以确保解释性、因果性、人工参与和用户体验设计等方面的安全性。

    Oct, 2016

  • 人工智能安全中的具体问题

    讨论机器学习与人工智能技术对社会潜在影响的一个问题：机器学习系统中的意外事故风险和如何抵御。我们提出了五个与事故风险相关的实际研究问题，涉及到错误的目标函数、过于昂贵的监督、安全探索和分布变化等方面。最后，思考了如何更具生产力地思考人工智能前瞻性应用的安全问题。

    Jun, 2016

  • 机器学习安全中尚未解决的问题

    通过提出四个安全性问题：鲁棒性、监控风险、降低内在模型风险和降低系统风险，本篇研究为机器学习的安全性提供了新的技术路线和解决方案。

    Sep, 2021

  • 系统安全和人工智能

    本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

    Feb, 2022

  • 学习能力安全关键系统的可证明保证究竟是什么

    机器学习在安全关键领域的使用依然存在挑战，论文讨论了这些挑战，提出了一种基于两步验证方法的可证明统计保证实现的方式。

    Jul, 2023

  • 自主驾驶汽车中的机器学习安全实用解决方案

    本文讨论了自动驾驶汽车中的机器学习安全性问题，总结了一些实用的机器学习安全技术，以增强算法的可靠性和安全性，并讨论了机器学习组件的安全性限制和用户体验方面。

    Dec, 2019

  • 安全的人工智能 -- 如何实现？

    本文探讨了 AI 系统在不可预测的环境下操作时带来的挑战，提出了一种严格的工程框架，旨在最大程度地减小不确定性，从而提高对 AI 系统安全行为的信心。

    Jan, 2022

  • 图机器学习的安全性：威胁与保障

    探讨了提高图机器学习（Graph ML）安全性的三个关键方面：可靠性、泛化能力和保密性，并采用一种新的分类法分析了与这些方面相关的威胁，指导评估有效策略来保护图 ML 模型的安全性，为未来的研究奠定基础。

    May, 2024

  • 一个计算轻量级的安全学习算法

    在这篇论文中，我们提出了一种安全学习算法，通过使用 Nadaraya-Watson 估计器而不是高斯过程，提供概率安全保证，并且在数据点数量方面实现对数级别的扩展。我们为估计结果提供了理论保证，将其嵌入到一个安全学习算法中，并在模拟的七自由度机器人操纵器上进行了数值实验。

    Sep, 2023

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023