CVPRApr, 2021

IronMask：保护深度人脸模板的模块化架构

PDF
TL;DR本文提出了一种名为 IronMask 的面部模板保护模块化架构，可以与任何使用角距离度量的面部识别系统组合使用，通过提出一种新的实值纠错编码避免了大多数现有面部模板保护面对的性能下降问题，并在 ArcFace 和 CosFace 上进行了广泛的实验，证明在提供至少 115 位安全性的同时，可以分别实现 99.79％和 95.78％的真实接收率。
face recognitionprivacy protectionironmaskangular distanceerror-correcting-code
发现论文，激发创造
  • AI 基于人脸识别系统的全面视觉显著性解释框架的研究

    这篇论文提出了一个基于视觉显著性地图的人脸识别解释框架，其中包括定义了解释方法、提出了新的模型 - 不可知解释方法 CorrRISE，并提供了一种新的评估方法来比较不同解释方法的性能。实验证明，CorrRISE 能够生成深入有洞察力的显著性地图，并在相似性地图方面表现出卓越的性能。

    Jul, 2024

  • 通过 DLICP 的数学建模方法对社区公园的卡路里燃烧估计

    通过将深度学习技术，尤其是面部识别技术，与新颖的步行活动测量算法相结合，该研究介绍了 DLICP（深度学习综合社区公园），以提高社区公园中用户的体验。DLICP 利用带有面部识别软件的摄像机来准确识别和跟踪公园用户。同时，步行活动测量算法计算个体属性下的平均步伐和消耗的卡路里等参数。广泛的评估验证了 DLICP 的精确性，其均方误差（MAE）为 5.64 卡路里，平均百分比误差（MPE）为 1.96％，并与广泛可得的健身测量设备（如 Apple Watch Series 6）进行了对比。该研究对于智能智慧公园系统的发展做出了重要贡献，实现了燃烧卡路里和个性化健身跟踪的实时更新。

    Jul, 2024

  • 比较基于特征和上下文感知的方法在个人身份信息概化级别预测中的应用

    提出了两种方法来保护文本数据中的个人可识别信息（PII）的隐私性，一种是使用机器学习改进结构化输入性能的基于特征的方法，另一种是考虑原始文本和泛化候选项之间的上下文和语义关系的新颖上下文感知框架。实验证明，上下文感知方法在不同尺度上优于基于特征的方法，通过突出特征选择、集成学习和融入上下文信息等方面推进了 PII 泛化技术的发展，从而更好地保护文本匿名化中的隐私保护。

    Jul, 2024

  • 在 StyleGAN 的潜变空间操作中控制面部框架的生成：修改面部以欺骗我们的记忆

    Innocence Project 与阿根廷布宜诺斯艾利斯技术研究所（ITBA）的 Laboratorio de Sueño y Memoria 合作研究人类记忆在面孔识别中的作用，主张证明人类记忆严重依赖于面孔的边框来识别面孔。通过实验证明面部的垂直和水平方向的变化对面部边框有重大影响，并开发了一种识别面部边框的方法和与神经网络输出进行比较的函数。

    Jun, 2024

  • IDT：双任务对抗攻击用于隐私保护

    本研究使用对抗攻击技术改变文本以欺骗隐私分类器，同时保持针对其他任务的分类器预测不变，提出了 IDT 方法，分析辅助及可解释模型的预测结果，以确定对于隐私任务需要改变的词汇和对于其他任务需要保留的关键词汇，实验证明 IDT 在保护隐私的同时仍保持了文本的实用性，并且在欺骗隐私分类器的任务上优于现有方法。

    Jun, 2024

  • 隐私保护的人口过程强化学习

    我们考虑了强化学习算法中的隐私保护问题，该问题涉及人群过程，这是一个实际但研究很少的设置，例如在大规模个体之间进行流行病控制。我们通过 Pufferfish 隐私分析澄清了相关数据在人群进程中的差分隐私（DP）的贝叶斯语义，并提供了一种元算法，可以使用任何强化学习算法作为输入，并使其具有差分隐私。我们的主要理论结果表明，在隐私化状态下将标准强化学习算法直接应用于状态时，值函数逼近误差会随着人群规模和隐私预算的增加而迅速缩小，从而强调在人群过程中差分隐私强化学习算法可以实现合理的隐私 - 效用平衡。我们的理论发现通过在大规模人口上进行的模拟流行病控制问题的实验证实了。

    Jun, 2024

  • 迈向更公平的人脸识别数据集

    利用生成的训练数据集中的人口属性平衡机制，提出了一种全面的评估方法，旨在促进更公平、透明的人脸识别和验证，并发现在减少人口属性不公平的同时，性能差距仍然存在。

    Jun, 2024

  • 通过对语言模型中的序列遗忘进行近似优化参数保护隐私

    我们提出了一种名为 “POP” 的新型遗忘方法，通过对参数应用最佳梯度更新，从预训练的语言模型中有效地遗忘目标令牌序列，实现隐私保护，具有出色的遗忘后保留性能，优于现有技术水平。

    Jun, 2024

  • 通过量化的 LoRA 技术促进联邦学习的数据和模型隐私保护

    在联邦学习的背景下，我们引入一种方法来保护数据和模型的隐私，只需在训练过程中分发模型参数的量化版本。该方法结合了量化策略和 LoRA，显著降低了联邦学习中的通信成本，并且确保了数据和模型的隐私保护，同时提高了中央模型的泛化能力和资源利用效率。

    Jun, 2024

  • PrivacyRestore: 大型语言模型中的隐私保护推断：通过隐私去除和恢复

    本文提出了 PrivacyRestore 来保护 LLM 推理过程中用户输入的隐私信息，通过激活控制和隐私恢复技术实现，实验结果表明 PrivacyRestore 能在保护隐私信息的同时保持良好的性能和推理效率。

    Jun, 2024