Jun, 2013

利用更智能的机器黑客智能机器：从机器学习分类器中提取有意义的数据

PDF
TL;DR本文着重于研究机器学习分类器中存在的信息泄露问题，通过构建元分类器并用其来入侵其他分类器，发现可以从中推断出对训练集的有用信息，这种信息泄露可能被利用于盗取竞争对手的商业机密，潜在侵犯知识产权。
machine learningml classifierstraining setsinformation leakageintellectual property rights
发现论文，激发创造
  • 机器学习模型过于记忆

    机器学习中的敏感数据可能会 “记忆” 在训练模型中，即使采用标准技术如正则化和数据扩充等方法，从中还是能够提取训练集的子集。

    Sep, 2017

  • 通过转换和增强不完美的训练数据实现鲁棒机器学习

    机器学习的数据敏感性和数据不完整性的研究，包括公平表示学习、对不可靠功能进行学习的问题，以及强化学习中的数据不充分覆盖问题。

    Dec, 2023

  • 通过预测 API 窃取机器学习模型

    本研究探究了机器学习模型机密性和公共访问之间的紧张关系，针对在线服务（如 BigML 和 Amazon Machine Learning）中的普通模型类，研究了一些简单有效的攻击方法和相应的反攻击策略。

    Sep, 2016

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 机器决策与人类后果

    本文探讨了机器学习如何工作以及如何制定公正和负责任的算法，重点考虑了在刑事司法系统中执行决策的案例，并对 HART 作为现实世界分类器的技术特征进行了说明和四个规范基准进行了评估。

    Nov, 2018

  • 利用机器学习快捷方式保护公开可用的数据

    设计了一种方法来通过加入机器学习快捷方式来防止网络爬虫，使得采集的数据无法使用，同时在人类感知中很难察觉，以此作为对非法数据采集的积极保护。

    Oct, 2023

  • 真相血清：毒化机器学习模型揭示它们的秘密

    介绍了一种新的针对机器学习模型的攻击方式，即通过污染训练数据集，导致模型泄露属于其他用户的私人数据。该攻击包括成员推断、属性推断和数据提取等多方面，可能会危及多方面的用户隐私。

    Mar, 2022

  • 通过利用公共数据提取深度神经网络的框架

    使用主动学习和大规模公共数据集的模型提取框架，可以通过黑盒访问从图像和文本领域的各种数据集中训练出的深度分类器，其中仅使用其 30%（30,000 个样本）的数据集。

    May, 2019

  • 机器学习中的隐私风险：分析与过度拟合的关联

    本篇论文探讨了机器学习算法在敏感数据应用时对隐私的威胁，分析了过拟合和影响因素对攻击者从训练数据中提取信息的能力的影响，并研究了成员推断和属性推断之间的联系。

    Sep, 2017

  • 对抗学习攻击和防御的教程

    本文主要介绍了机器学习算法在数字经济和人工智能等领域中的广泛应用，特别是在安全关键应用领域中的重要性。同时，文章详细介绍了对抗机器学习攻击的原理、攻击类型及当前各种防御机制的深度分析。

    Feb, 2022