本文提出了一种名为 “判别性对抗隐私”（DAP）的新型学习技术，该技术通过达到模型性能、速度和隐私之间的平衡来解决 DP 的局限性。DAP 依靠对抗训练，基于一种新的损失函数，该函数能够最小化预测误差并最大化 MIA 的误差。此外，我们引入了一种名为 “准确性隐私权”（AOP）的新指标来捕捉性能 - 隐私权衡。最后，为了验证我们的观点，我们将 DAP 与不同的 DP 情景进行比较，并从性能、时间和隐私保护角度分析结果。

Jun, 2023

本研究提出了一种名为 ZkAudit 的协议，旨在解决商业激励与算法透明的冲突，允许模型提供者保护模型权重和数据的机密性，同时允许其他方信任地审计模型和数据的属性。通过使用零知识证明，我们证明了可以提供对深度神经网络的可信审计，包括版权审计、审查审计和反事实审计，而几乎不会降低准确性。

Apr, 2024

通过实证研究探讨差分隐私参数选择的挑战，揭示了实际数据与重建目标之间领域转变的关系，提出了基于扩散模型的重建攻击方法，并证明了真实数据先验对于重建的影响，现有的重建边界不良模拟了数据先验的风险，并且扩散模型可以作为有效的隐私泄漏审计工具。

Mar, 2024

本文介绍了一种分布式基础设施，用于实现分布式代理之间的点对点信任，从而协同执行保护隐私的机器学习工作流程。使用 Hyperledger Aries，Decentralised Identifiers (DIDs) 和 Verifiable Credentials (VCs) 建立了一个分布式信任体系，促进与心理健康护理相关的联邦学习工作流程。

Jun, 2020

提出了一种新的防御称为 “用于成员隐私的蒸馏（DMP）”，该方法可以提供比其他现有防御更好的成员隐私和分类准确性之间的权衡，使用蒸馏技术训练机器学习模型，从而避免成员推理攻击。

Jun, 2019

该研究提出了采用自适应误导的方法抵御深度神经网络模型盗窃攻击，并针对现有所有模型盗窃攻击均使用 Out-Of-Distribution 输入进行了阐述，提出选择性错误预测的方法以显著降低攻击者克隆模型的准确率，同时最小化对良性用户准确率的影响，这种防御具有更好的安全性和准确度平衡，并且计算开销最小。

Nov, 2019

通过对隐含状态威胁模型进行审计，本研究验证了通过在每个优化步骤中插入所精心设计的梯度，保证仅发布最终模型并不会增加隐私的结论，同时也在非凸设置中观察到隐私放大的现象，为改进现有隐私上界提供强有力的证据。

May, 2024

本研究提出了一种名为池化分组会员推断（PMI）的新技术，旨在保护深度神经网络（DNN）模型的知识产权。PMI 并不改变给定 DNN 模型的网络参数，也不通过一系列精心设计的触发样本进行微调，而是通过推断哪个小型数据集曾用于训练目标 DNN 模型来确定 DNN 模型的所有权。实验也展示了这项工作的优越性和适用性。

Sep, 2022

深度神经网络（DNNs）是最广泛使用的机器学习算法之一。本文关注集成私有 DNNs 的概念来检测概念漂移，并引入一种名为 IPDD 的集成方法，不需要标签即可检测漂移。实验证明该方法在隐私性和效用上具有可比性。

Jun, 2024

本文提出了一种基于统计显著性的差异性审计框架（DPDA），用于审计数据纪录来源，使审计员能够在不需要训练阴影模型的情况下，区分训练数据和非训练数据。此外，该文还提出了两种有效的审计函数实现，并在现实世界的数据集上进行了评估，证明了该技术的有效性。

Sep, 2022