本文研究如何利用边缘分布和随机变量之间的依赖关系来估计概率事件的概率，并在自适应数据分析和学习理论中应用，其中包括 Sibson 的互信息、α- 散度、Hellinger 散度、f - 散度等多种方法，并将最大泄密量作为特例进行了研究。

Dec, 2019

本文研究了在黑盒条件下测量系统对其秘密输入的泄露量问题，提出了使用 ML 方法来估计系统的贝叶斯风险，并展示了最近邻规则的应用，以降低黑盒查询的数量，并处理连续输出的系统。

Feb, 2019

本文介绍差分隐私与最小 Rény 熵互信息相关性的模型，指出差分隐私可推出对互信息的限制，同时提供了一个在保持差分隐私的前提下产生最大随机值的方法.

Mar, 2011

提出一种用于捕获用户向被动好奇敌手发布数据时产生的隐私威胁并在效用约束下加以限制的一般性统计推断框架，其中应用自信息成本函数于非渐进信息论方法用于表征最佳可实现的隐私，基于这些结果引入平均信息泄漏和最大信息泄漏两种隐私度量，证明在两种指标下，将用户数据映射到隐私保护输出的最优映射可被描述为修正的率失真问题并可设计成凸编程，最后与差分隐私进行比较。

Oct, 2012

本文提出了一种新的机器学习方法，用于在系统的 Black-Box 情况下评估 g-vulnerability 的信息泄漏，无需估计条件概率，适用于大多数机器学习算法，并在 k - 近邻和神经网络上的结果优于频率学派方法。

May, 2020

在当今数据驱动的世界中，公开可用信息的广泛传播加剧了信息泄漏（IL）的挑战，提高了安全性问题。本研究利用统计学习理论和信息论建立了一个理论框架来准确量化和检测 IL。该方法通过近似贝叶斯预测器的对数损失和准确度来准确估计互信息（MI），并使用自动化机器学习（AutoML）来近似贝叶斯预测器。研究通过在合成数据集和真实数据集上的实验验证了该方法的有效性。

Jan, 2024

本文探讨了学习最小化图像表示中的信息泄露的问题，并通过对抗性非零和游戏的形式表述该问题，提出了一种新方法。实验结果表明，该方法能够学习高任务性能的图像表示，同时减少了预定义敏感信息的泄露。

Apr, 2019

针对离散分布函数的函数估计问题，利用浓度不等式和正线性算子逼近理论分析了 MLE 估计器的最坏情况的平方误差风险及其期望偏差。研究表明，MLE 在估计香农熵和 F_α(P) 产生了次优的样本复杂度，且 Dirichlet 先验平滑技术不能达到最小化极值。

Jun, 2014

研究了在隐私和效用都用互信息表示的情况下隐私和效用之间的权衡，利用可观测数据量化其中所包含的私人信息并将其连接到隐私和效用之间的最优权衡。

Oct, 2015

我们引入了一个新的分析框架来量化在机器学习算法的训练集中包含一些数据点之后，输出分布的变化，我们将这一概念定义为留一法区分度（LOOD）。我们使用高斯过程模型机器学习算法的随机性，并通过对会员推理攻击使用信息泄露进行广泛的实证分析验证 LOOD。我们的理论框架让我们能够研究信息泄露的原因以及泄露程度。此外，我们的方法还允许我们优化查询来揭示留一法设置中关于训练数据最重要的信息。我们演示了如何使用最优查询对训练数据进行准确的重建。

Sep, 2023