鲁棒公平聚类：一种新的公平性攻击和防御框架

ICLROct, 2022

鲁棒公平聚类：一种新的公平性攻击和防御框架

Robust Fair Clustering: A Novel Fairness Attack and Defense Framework

Anshuman Chhabra, Peizhao Li, Prasant Mohapatra, Hongfu Liu

TL;DR通过提出一种针对公平聚类的黑盒公平攻击来分析公平聚类算法的鲁棒性；该攻击可以显著降低公平性性能。最后，提出一种新的公平聚类方法 Consensus Fair Clustering (CFC)，将一致性聚类转化为公平图分割问题，并迭代地学习生成公平聚类输出。实验表明，CFC 高度鲁棒，是一个真正的公平聚类替代方案。

Abstract

clustering algorithms are widely used in many societal resource allocation applications, such as loan approvals and candidate recruitment, among others, and hence, biased or unfair model outputs can adversely impact individuals that rely on these applications. To this end, many fair cl

clustering algorithms fairness adversarial attack consensus fair clustering robustness analysis

发现论文，激发创造

深度聚类模型的鲁棒性：对抗攻击与防御

本文介绍了一种基于生成对抗网络的黑盒攻击，旨在分析和提高当前最先进的深度聚类模型的鲁棒性。经过实验验证，本篇研究发现传统无监督防御方法无法有效抵御这种攻击方式，从而呼吁开发更为鲁棒的深度聚类模型。

Oct, 2022

公平聚类：评析、注意事项和未来方向

公平聚类是机器学习和运筹学中的一个基本问题，然而，在算法设计中考虑公平性已变得极其重要，因此公平聚类已经受到研究界的广泛关注。本文对公平聚类进行了批判性的审视，发现了一些被忽视的问题，例如缺乏明确的效用描述和在机器学习环境中考虑公平聚类算法的下游影响的困难。我们还展示了一些情况，在这些情况下，应用公平聚类算法可能对社会福利产生重大负面影响。最后，我们提出了一些旨在推动公平聚类领域更有影响力研究的步骤。

Jun, 2024

使用抗毒数据进行公平聚类

为了解决聚类算法输出不公平的问题，我们提出了一种使用少量辅助数据来实现中心聚类的群体公平性的方法，将其建模为一个通用的双层优化问题，并分类并解决了两种不同问题设置的优化方法。我们的实验表明，与其他最先进的公平聚类算法相比，我们的算法可以在添加极少的辅助数据的情况下实现所需的公平水平，并且具有更低的公平成本和可比较的聚类性能。

Jun, 2021

污染聚类的黑盒对抗攻击

本文提出了一种针对聚类算法鲁棒性的黑盒对抗攻击算法，该算法可以通过一个黑盒聚类算法生成对抗性样本，并对其鲁棒性进行测试，实验结果表明该算法可以有效测试不同类型的聚类算法的鲁棒性。

Sep, 2020

基于深度聚类的公平异常检测

本文提出了一种基于深度聚类和对抗训练的公平异常检测算法，通过对数据中的统计偏差进行建模，并采用一种实例级加权表示学习策略来增强聚类和异常检测，从而提供了一个更公平的潜在异常集合。

Jun, 2021

公平聚类：因果视角

聚类算法可能无意中传播或加剧现有的不平等，导致不公正的表示或有偏见的决策。本文提出了一种聚类方法，该方法结合因果公平度量，以在无监督学习中提供更细致入微的公平方式。我们的方法使得可以指定应该最小化的因果公平度量，并使用已知具有不公平偏差的数据集证明了我们方法的功效。

Dec, 2023

基于层次凝聚聚类的公平算法

本文提出一种对分层聚类算法 (HAC) 进行公平性约束的方法，适用于任何自然的聚类公平措施和多个受保护群体，并在多个真实世界 UCI 数据集上进行了广泛的实验。

May, 2020

具有群组成员身份不确定性集合的鲁棒公平聚类

我们研究了典型的公平聚类问题，其中每个聚类被约束为每个群组的人口级别表达。尽管引起了很大的关注，但对于每个点的群组成员资格的不完全知识的显著问题仅仅是肤浅地得到解决。在本文中，我们考虑了分配的群组成员资格存在误差的情况。我们引入了一个简单且可解释的误差模型家族，需要决策者提供少量参数。然后，我们提出了一个具有可证明鲁棒性保证的公平聚类算法。我们的框架使决策者能够在鲁棒性和聚类质量之间进行权衡。与以前的工作不同，我们的算法有最坏情况下的理论保证。最后，我们在真实世界的数据集上验证了我们的算法的性能，并展示了其优于现有基准的表现。

Jun, 2024

通过层级公平 - 狄利克雷过程实现公平聚类

本文提出了一种基于模型的公平聚类方法，补充了现有大多数基于适当目标函数优化的文献，致力于解决机器学习带来的算法公平性问题。

May, 2023

公平标注聚类

本文主要考虑聚类算法在实际应用中保证群体公平性的问题，并提出了相应的算法。在该算法中，决策者运行聚类算法，检查每个簇的中心并为其相应的簇分配一个适当的结果。

May, 2022