Jan, 2024

系统评估 AI/ML 辅助连接的医疗系统的安全风险

PDF
TL;DR通过案例研究，我们展示了对一种机器学习血糖监测系统进行攻击的方法，并指出这种使用机器学习的医疗系统存在的安全风险需要采用新的风险分析方法进行评估。
machine learninghealthcaresecurity risksadversarial interventionsrisk analysis
发现论文，激发创造
  • 医疗保健中的安全稳健机器学习：调查

    介绍机器学习和深度学习技术在医疗保健的应用及相应的安全和隐私挑战，并提出了相关方法以确保医疗保健应用中的安全和隐私保护。

    Jan, 2020

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 基于机器学习系统的安全性：在训练和推理期间的攻击和挑战

    对机器学习中存在的各种安全威胁、威胁模型及相关挑战进行了简要概述，利用 LeNet 和 VGGNet 对 MNIST 和 GTSRB 等基准进行了安全威胁演示，提出并解决了部分误差影响并较小的攻击方式，并阐述了开发安全措施的相关技术。

    Nov, 2018

  • 人工智能医疗设备的网络安全：风险、法律和挑战

    本章节旨在说明医疗设备和人工智能系统的发展对医疗保障的迅速转变。同时，研究指出医疗设备中的人工智能可能会面临网络攻击，从而带来患者安全和安全风险。本文分为三个部分，第一部分是介绍网络安全在医疗保障中的作用，第二部分提供了欧盟针对人工智能医疗设备的监管框架，第三部分探讨了相关法规的挑战。（该图书为 2023 年 Edward Elgar 出版社出版的《医疗，人工智能和法律研究手册》中的一章草稿）

    Mar, 2023

  • 基于机器学习系统的威胁评估

    本研究通过分析 89 个真实的机器学习攻击情景，研究机器学习中的威胁特性、识别通用基本应对策略，最终总结出其中的最有针对性的漏洞、攻击手段及其防御方式，以共同为机器学习安全保驾护航。

    Jun, 2022

  • 机器学习基于物联网生态系统中的攻击揭秘：调查及背后的开放图书馆

    通过全面的研究和分析，本文旨在为人工智能在物联网快速发展的领域中保护 ML 模型和数据提供宝贵见解和实际解决方案。

    Jan, 2024

  • 基于可解释机器学习的医疗物联网系统的安全与隐私保护框架

    医学物联网能够革新医疗保健，通过实时健康数据收集帮助早期疾病检测和个性化护理，并借助机器学习进行异常检测，结合联邦学习和可解释的人工智能方法以保护用户隐私。

    Mar, 2024

  • 评估机器学习系统在对抗攻击方面的漏洞

    近期发现的难以察觉的对抗性攻击可能对现有深度学习网络防御系统构成挑战，可能影响未来的网络攻击防御。本文重点研究了此领域，探讨了人工智能系统漏洞的后果，包括其可能出现的原因、随机化和对抗性示例之间的差异以及潜在的伦理问题。此外，在测试阶段适当地训练人工智能系统并使其为广泛使用做好准备也十分重要。

    Aug, 2023

  • 利用自我优化和自我适应的人工智能提升医疗系统的网络安全性（第二部分）

    本研究旨在为未来流行病做好准备，借助人工智能算法来支持医疗保健系统，并构建两个案例，以测试算法在预测疾病风险和优化疫苗分发方面的效果。

    Aug, 2022

  • 针对学习型医疗智能物理系统开展安全保障案例的探索

    本文提供了一个机器学习（ML）控制器在学习式医疗物理系统（MCPS）中的安全保障方案，特别是在建立对基于 ML 的预测的信心方面，以胰岛素泵系统（APS）为代表的具体应用为例，通过实现深度神经网络用于 APS 预测，检查 ML 数据的充分性并使用形式化验证分析 ML 预测的正确性，最后概述此方案基于经验开放的研究问题。

    Nov, 2022