- 联邦式机器学习的数据注入攻击
本文旨在研究联邦机器学习中的数据投毒攻击漏洞,使用一个基于多任务学习框架的联邦学习框架,提出了一个自适应的双层优化问题,并提出了一种系统感知的优化方法,ATTack on Federated Learning (AT2FL),用于计算联邦机 - 针对下一项推荐的实用数据污染攻击
该论文提出了一种名为 LOKI 的实用数据攻击方法,使用强化学习算法训练攻击代理生成用户行为样本进行数据中毒,在现实世界的限制下,代理与推荐模拟器交互并利用对推荐结果的影响函数进行样本注射来污染目标系统。实验证明,LOKI 攻击性能优于现有 - 关于使用梯度塑形来有效地减轻数据投毒攻击的效果
本文研究了机器学习算法对数据污染攻击的脆弱性,提出了一种基于梯度整形的攻击不可知防御方法,并评估了基于差分隐私随机梯度下降的可行性和有效性。研究结果表明,梯度整形是未来研究的有前途的方向。
- ICML通过随机平滑实现标签翻转攻击的认证强韧性
本文提出了一个新的机器学习算法来防御数据污染攻击,并通过随机平滑技术,构建了具有证明能力的线性分类器,可以高可信地抵御标签混淆攻击。此外,本文所提出的方法不需要对训练和测试数据集的分布作任何假设。
- 对拜占庭 - 鲁棒联邦学习的本地模型污染攻击
本论文针对联邦学习中的本地模型污染攻击进行了系统研究,经过实验验证,表明该攻击可以显著提高联邦学习方法的误差率,并提出了两种抵御该攻击的方法,需要进一步加强防御。
- 基于图半监督学习的数据投毒攻击统一框架
本文提出了一个通用框架,用于针对基于图形的半监督学习(G-SSL)的数据投毒攻击。在真实数据集上测试了该框架,并评估了 G-SSL 算法的稳健性。
- 防御恶意软件检测系统标签翻转攻击
本文针对物联网系统中高噪音率或高不确定性环境下的数据中毒攻击,提出了两种基于深度学习算法的防御方法(LSD 和 CSD),通过随机森林特征选择和不同特征类型的比较,取得了 19% 的准确率提升,实现对攻击的恢复和修复。
- 针对差分隐私学习器的数据毒化攻击与防御
本文旨在研究数据污染攻击及其对机器学习的影响,提出差分隐私保护措施以防范攻击, 并设计了攻击算法,试图从目标和输出的角度影响学习器,实验结果表明,攻击者在污染足够多的训练数据时,攻击方法的有效性较高。
- 在线数据毒化攻击
本文研究在线学习中的数据污染攻击,将其形式化为一类随机最优控制问题,并采用模型预测控制和深度强化学习方法解决。实验验证了该控制方法在监督学习和无监督学习任务中生成接近最优的攻击的有效性。
- 更强的数据投毒攻击突破数据清洗防御
本文研究机器学习模型在训练时通过数据毒化攻击注入恶意数据点的危害以及数据清洗防御措施的不足。通过协调毒化点放置位置和基于约束条件设计攻击的方式,开发三种不同方法规避现有的数据清洗防御措施。这些攻击方法均基于耗时的二级规划问题,并通过影响函数 - 在线学习中的数据投毒攻击
此研究考虑了数据污染攻击领域,并对在线学习中的数据污染攻击进行了系统性研究,采用了一种优化策略并提出了三种解决方案,最终讨论了防御成功所需的因素。
- NIPS数据毒化攻击的认证防御
对使用用户提供数据训练的机器学习系统进行的数据毒化攻击问题进行了探讨,构建了数据异常移除后采用经验风险最小化的防御方法下的攻击损失上限并给出了攻击方法,检验了在 MNIST-1-7,Dogfish 数据集上其防御能力较强,而在 IMDB 情