SIGIRJul, 2017

共享模型而非数据：用于排序的隐私保护模仿学习

PDF
TL;DR本文探讨了使用隐私保护训练模型的预测结果作为监督信号来实现信息检索中文档重新排名这样的 IR 核心任务，并展示了初步实验的结果。研究表明，这种方法可以帮助数据丰富环境下的研究人员分享来自真实用户数据的知识，促进研究合作。
deep neural networksprivacy preserving mimic learninginformation retrievaldocument re-rankingdata sharing
发现论文，激发创造
  • 只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

    通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

    Feb, 2024

  • 图上隐私保护表示学习：一种互信息的视角

    提出了一种隐私保护的图表示学习框架，其中含有主要学习任务和隐私保护任务，并考虑了节点分类和链接预测作为两个感兴趣的任务，目标是利用互信息目标学习节点表示，同时获得隐私保护任务的性能接近随机猜测，并且实验评估了该框架在各种图数据集上的表现。

    Jul, 2021

  • 隐私保护与任务导向表征的对抗学习

    本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

    Nov, 2019

  • 深度学习中的隐私：综述

    本文综述了深度学习中面临的隐私问题，以及已经提出的解决这些问题的技术，并提出了未来研究方向。

    Apr, 2020

  • 隐私保护预测

    探讨在分类和回归等多种模型中，为实现个体预测隐私保护所需的成本，以及通过训练多个模型并使用标准的聚合技术来预测，以降低聚合步骤引入的开销，并建立所有不同隐私预测算法的强广义保证，从而研究机器学习中差分隐私的最优样本调整量。

    Mar, 2018

  • 隐私保护新闻推荐模型学习

    本文提出了一种基于联邦学习的隐私保护新闻推荐模型训练方法，将用户行为数据存储在本地设备上并使用局部差分隐私 (LDP) 技术保护用户信息，采用多个用户设备上传模型的局部渐变并通过聚合全局模型进行模型训练，实验证明该方法能有效训练一种具有隐私保护功能的新闻推荐模型。

    Mar, 2020

  • 大语言模型时代的隐私保护：你所写即你所是

    本文调查了一系列流行模型中预训练表示所编码的个人信息的程度，并展示了模型越复杂和数据越多，可能出现数据泄露的正相关性。作者对一种大型多语言数据集上的情感分析特征进行了广泛覆盖的比较和评估，结果表明，隐私保护方法的使用非常重要。作者还发现高度隐私保护的技术（如差分隐私）可能会对模型效用产生严重影响，可以使用混合或度量隐私方法来解决。

    Apr, 2022

  • 医疗数据隐私保护的分布式深度学习

    本研究介绍了一种在分布式情况下使用差分隐私训练临床数据神经网络的方法，并在 eICU 协作研究数据库和 The Cancer Genome Atlas 上进行了验证。

    Dec, 2018

  • 隐私保护机器学习的合成数据集生成

    提出一种从原始数据集生成安全合成数据集的方法，基于预训练的深度神经网络（DNN）的批量归一化（BN）层统计信息和随机噪声进行优化来匹配原始数据的层次统计分布。该方法可以用于从头开始训练神经网络来产生合理的分类性能。

    Oct, 2022

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019