我们研究和设计了一个有效的非线性转换框架，并进行了广泛实验以证明深度神经网络可以有效地学习以往被认为是无法学习的数据 / 示例，从而提高了打破无法学习数据的能力，显示出比线性可分技术更好的性能，进一步指出现有的数据保护方法在防止未经授权的机器学习模型使用数据方面是不充分的，迫切需要开发更强大的保护机制。

Jun, 2024

本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。

Jul, 2020

我们提出了一种有效的数据增强和机器遗忘的组合方法，可以减少数据偏差并提供对已知攻击的可证明防御。具体而言，我们利用基于扩散的数据增强来维护训练模型的公平性，并利用多分片遗忘来从机器学习模型中删除原始数据的识别信息，以保护隐私免受攻击。通过对不同数据集的实验评估表明，我们的方法在减少偏差和抵抗最新隐私攻击方面取得了显著改进。

Apr, 2024

本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

Nov, 2019

本文提出通过对图像进行优化来平衡隐私预算和目标任务分析性能的对抗训练框架，并且使用预算模型重启和集成策略来提高对新的黑客模型的保护性。通过使用两个隐私保护行动识别中的实验，该框架在同时维持高目标任务（行动识别）性能之余，成功抑制了隐私侵犯的风险。

Jul, 2018

本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

Feb, 2017

本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

Jun, 2022

通过学习选择最佳的变换组合以提高对抗传递能力的一种新方法，名为 Learning to Transform (L2T)，在实验中展现出优于现有方法的性能，并证实其有效性和实用意义。

May, 2024

本文提出了一种联合优化模型，实现了数据增强策略和神经网络架构的端到端优化，以实现自动化神经网络训练。实验结果显示，本方法的性能优于独立搜索的结果。

Dec, 2020

本文提出了两种分散式多任务学习在隐私约束下的方法论上的进展，旨在为下一代区块链平台的未来发展铺平道路。第一，我们扩展了协作字典学习 (CollabDict) 的现有框架，之前仅适用于高斯混合模型，通过将深度变分自动编码器 (VAE) 纳入框架，特别关注异常检测。我们证明了基于 VAE 的异常评分函数与非深层模型具有相同的数学结构，并进行了全面的定性比较。其次，考虑到 “预训练模型” 的广泛应用，我们对使用 CollabDict 训练的模型在外部共享时的数据隐私泄漏进行了数学分析。我们展示了 CollabDict 方法在应用于高斯混合模型时遵守 Renyi 差分隐私准则。另外，我们提出了一个实用的度量标准，用于监测学习过程中的内部隐私泄漏。

Apr, 2024