CVPRApr, 2019

最大熵方法在图像表示中的信息泄漏缓解

PDF
TL;DR本文探讨了学习最小化图像表示中的信息泄露的问题，并通过对抗性非零和游戏的形式表述该问题，提出了一种新方法。实验结果表明，该方法能够学习高任务性能的图像表示，同时减少了预定义敏感信息的泄露。
image recognitionprivacyadversarial gameentropysensitive information
发现论文，激发创造
  • 用对手模型压制表示

    采用对抗生成网络的方法，学习灵活的、去除敏感信息的表示，以减少歧视和保护隐私，解决在机器学习应用中存在的限制问题。

    Nov, 2015

  • 通过最差情况的互信息最大化学习对抗鲁棒表现

    本文研究了在最坏情况下，表示脆弱性与最小敌对风险之间的下界关系，并提出了一种基于最坏情况下的相互信息最大化的无监督学习方法来获得内在具有鲁棒性的表示，并通过下游分类任务的实验证明了所得到的具有鲁棒性的表示。

    Feb, 2020

  • 通过 Rényi 最小化学习无偏表示

    本文提出了一种通过 Hirschfeld-Gebelein-Renyi (HGR) 最大相关系数生成不带偏见表示的对抗性算法，从而实现了在机器学习算法的训练目标中包含公平性约束。

    Sep, 2020

  • 隐私保护与任务导向表征的对抗学习

    本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

    Nov, 2019

  • 通过对抗最大化互信息来学习离散结构表示

    本研究提出使用互信息优化结构化潜变量和目标变量之间的关联，通过对抗目标函数可在二进制编码上估算互信息，应用于文件哈希上表现卓越且高度压缩。

    Apr, 2020

  • 鲁棒性深度表征的信息论学习

    本文提出一种基于信息论的学习鲁棒性深度表示的新颖目标函数，通过将数据投影到特征矢量空间，最大化相对于监督信号的所有特征子集的互信息，得到鲁棒表示，其对噪声或不可用特征的信息保留能力较强，我们利用一种替代目标函数最小化的方式实现此目标函数并进行实验验证。

    May, 2019

  • 通过互信息反向传播学习无偏表示

    利用信息论的有关发现，我们提出了一种新的端到端优化策略，该策略同时估计和最小化学习表示和数据属性之间的互信息，通过这种策略，我们的模型在标准基准测试中表现出与最先进的方法相当或优越的分类性能，此方法可应用于问题的 “算法公平性”，并得到了竞争性的结果。

    Mar, 2020

  • 通过对抗特征学习实现可控的不变性

    本文提出了一种通过对抗学习策略学习能够抵抗特定数据因素影响的新型表示学习方法，并通过多个基准测试表明所提出的方法可以获取到不变表示，从而提高模型的泛化能力。

    May, 2017

  • 信息匹配：半监督图像分类的熵神经估计

    利用伪监督和一致性正则化的半监督图像分类方法，在最大化增强视图之间的互信息下限时，通过信息熵神经估计利用未标记样本的潜力，从理论上分析出图像分类器的信息熵通过最大化 softmax 预测的似然函数近似估计。在这些见解的指导下，我们从两个角度优化我们的模型，以确保预测的概率分布与真实分布紧密一致，并通过大量实验证明其卓越性能。

    Apr, 2024

  • 通过互信息估计和最大化学习深层表示

    通过在深度神经网络编码器的输入和输出之间最大化互信息来进行无监督学习表示，该方法将表示的特征与先前分布进行敌对匹配，优于其他无监督学习方法并能够在多个分类任务中与全监督学习相竞争，深度信息最大化（DIM）为特定端点目标的无监督学习表示开启了新的途径。

    Aug, 2018