Jun, 2024

具有差分隐私的对比可解释聚类

PDF
TL;DR本研究提出了一种新的可解释人工智能（XAI）方法，在聚类方法中将对比解释与差分隐私相结合。通过在常见的聚类问题中（包括 k - 中值和 k - 均值），我们给出了高效的差分隐私对比解释，能够获得与非差分隐私聚类解释基本一致的解释。在每个对比场景中，我们将一个特定数据点指定为固定的质心位置，以衡量这种约束对基于差分隐私的聚类结果的影响。在各种数据集上进行的广泛实验表明我们方法在不明显损害数据隐私或聚类效果的情况下提供有意义的解释，突出了我们对隐私感知机器学习的贡献，证明了在聚类任务解释中在隐私和效用之间实现平衡的可行性。
发现论文，激发创造
  • 具有差分隐私的模型解释

    使用差分隐私机制构建基于特征的模型解释，降低解释数据隐私泄露，评估差分隐私模型及其隐私机制对模型解释质量的影响。

    Jun, 2020

  • 可解释人工智能在数据驱动系统中的隐私影响

    机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。

    Jun, 2024

  • CLIMAX：分类器基于对比解释的探索

    本文提出了一种名为 CLIMAX 的后操作模型无关 XAI 技术，它提供了对黑盒分类器分类的对比解释以及为什么其他类别未被预测的理由。

    Jul, 2023

  • 通过范例的可解释聚类：复杂度和高效近似算法

    该研究提出了一种可解释的基于设计聚类的方法，该方法不仅可以找到集群，还可以找到举例来解释每个集群。作者提供了两个近似算法，可以提供证明性能保证以及应用范围。实验结果表明，这项工作在涉及难以理解的深度图像和文本嵌入的领域中非常有用。

    Sep, 2022

  • 易实例的不同 ially-Private 聚类

    本文研究的是隐私保护聚类算法，提出了一个依据难易程度来组合本来不带保护性质的聚类算法和隐私保护结果的框架，并在高斯混合数据和 $k$-means 算法中实现了样本复杂度较小的聚类效果进行了实证评估。

    Dec, 2021

  • 差分隐私 $k$- 均值聚类

    本研究比较交互式和非交互式方法在差分隐私数据分析中的权衡，并提出了一种混合方法。通过 $k$-means 聚类作为一个例子，该方法首先使用非交互式机制发布数据集的摘要，然后使用标准 $k$-means 聚类算法学习聚类中心，最后使用交互式方法来进一步改进这些聚类中心。我们分析了交互式和非交互式方法的误差行为，并使用这种分析来决定如何分配隐私预算，大量实验结果支持我们的分析，并证明我们方法的有效性。

    Apr, 2015

  • 隐私与可解释性：全面影响基准

    该研究首次研究了隐私学习技术对基于深度学习模型的生成解释的影响，并在多个领域的各种图像和时间序列数据集上进行了详尽的实验分析，提出了在实际应用中该选择哪种技术的明确建议。

    Nov, 2022

  • 走向可解释聚类：基于约束声明的方法

    我们提出了一种基于解释驱动的集群选择的解释可调的约束聚类方法，该方法能够生成高质量的且可解释的聚类，其中聚类结果考虑了特征的覆盖率和区分度，并能够整合领域专家知识和用户约束。

    Mar, 2024

  • 具有差分隐私的因果推断（聚类）结果

    基于随机实验估计因果效应只有在参与者同意透露潜在敏感回应的情况下才可行。我们提出了一种新的差分隐私机制 “Cluster-DP”，通过利用数据的任何给定的聚类结构来实现更强的隐私保证和更低的方差损失，同时仍然允许因果效应的估计。

    Aug, 2023

  • 关于可解释性的代价在某些聚类问题中的研究

    通过测试，我们发现，在进行 k-means 分类问题时，通过利用决策树可增强算法可解释性，提高性能表现。

    Jan, 2021