Aug, 2023

类别与聚类不同：改进基于标签的降维算法评估

PDF
TL;DR引入两个新的质量度量标准：标签可信度和标签连续性（Label-T&C），以改进基于类标签的降维评估过程。定量评估结果表明，Label-T&C 在评估降维嵌入如何保留聚类结构的准确度方面优于广泛使用的降维评估指标，并且具有可扩展性。此外，我们还展示了案例研究，证明 Label-T&C 可以成功用于揭示降维技术及其超参数的内在特性。
dimensionality reductionreliabilityembeddingsquality measureslabel-trustworthiness
发现论文，激发创造
  • 朝标签嵌入方向 -- 评估分类的难度

    对卫星影像的分类中，使用多个标记者的多次标记结果，通过贝叶斯方法中的 Dirichlet-Multinomial 模型，在 K 维空间中对标记结果进行嵌入，以解决不确定性量化和分类中的模糊性问题。

    Nov, 2023

  • 基于类别约束的 t-SNE：结合数据特征和类别概率

    通过结合数据特征和类别概率的 class-constrained t-SNE 方法，可以在同一个降维结果中平衡两种视角，并通过交互式参数调整实现平滑的视角过渡，从而提高模型评估和视觉交互标注的应用潜力。

    Aug, 2023

  • 深度聚类评估：如何验证内部聚类验证指标

    利用深度神经网络对复杂、高维数据进行分区的深度聚类方法存在独特的评估挑战，传统的聚类验证度量方法因适用于低维空间而在深度聚类中存在问题，本文针对在深度学习中评估聚类质量的问题进行了研究，提出了一个理论框架来突出使用内部验证度量方法在原始数据和嵌入数据上的无效性，并在深度聚类上提出了一种系统性的聚类有效性指标的应用方法，实验证明这个框架与外部验证度量方法更加吻合，有效地减少了在深度学习中不正确使用聚类有效性指标所引发的误导。

    Mar, 2024

  • 无监督嵌入质量评估

    研究了评估深度神经网络自监督学习中表示质量的多种方法，包括信息嵌入量、线性可分性等，通过实验结果发现了可以无监督评估嵌入质量的方法。

    May, 2023

  • 信息论外部聚类有效性度量

    本研究提出了一种针对聚类算法进行 “外部” 评估的性能度量，该度量具有 “允许比较不同数量群集的量化和原则” 的特性，并且可以量化地衡量群集标签对于类标签作为预测变量的有用性。

    Dec, 2012

  • 降维存在可衡量的不完美：两种几何界限

    本文从定量拓扑学的角度研究信息检索中的降维映射，证明了连续映射的精确度不可能同时达到最高，进一步证明了 Lipschitz 连续映射的精确度具有上限，并提出了一种基于 Wasserstein 距离的新度量方法。

    Oct, 2018

  • 可微分的深度聚类 + 聚类大小限制

    通过将 $k$-means 聚类算法重写为最优传输任务，并加入熵正则化，我们提出了一种全新的方法，其中嵌入是由深度神经网络执行的，表明与现有的基于软 $k$-means 的最新方法相比，我们的最优传输方法提供更好的无监督准确度，不需要预训练阶段。

    Oct, 2019

  • 利用质量嵌入的有噪声图像标签深度学习

    本文提出了一种质量嵌入模型，通过将质量变量嵌入到不同的子空间中，有效减小了噪声对标签的影响，并提出了一个对抗加性噪声网络模型（CAN）用于训练分类器，现有实验数据显示 CAN 在多种噪声图像数据集上优于深度学习等现有方法。

    Nov, 2017

  • 深度连续聚类

    通过深度自编码器实现非线性降维和聚类，优化作为聚类过程的自编码器，避免之前聚类算法中离散目标的缺陷，无需先验知识即可进行聚类，实验证明该算法优于状态的聚类方案并具有普适性。

    Mar, 2018

  • Gromov-Wasserstein 插值聚类与降维

    我们提出了一种适用于现有降维目标的通用适应方法，同时降低样本和特征大小。通过半松弛的 Gromov-Wasserstein 最优输运问题计算输入和嵌入样本之间的对应关系。当嵌入样本大小与输入大小匹配时，我们的模型恢复了经典的受欢迎的降维模型。当嵌入的维度不受限制时，我们展示了最优输运方案提供了一种有竞争力的硬聚类。我们强调了中间阶段将降维和聚类相结合以概括真实数据的重要性，并将我们的方法应用于可视化图像数据集。

    Oct, 2023