Dec, 2019

流式数据的近似核密度估计子线性 RACE 草图

PDF
TL;DR提出 RACE 算法以取代高维数据的核密度估计，通过将一组高维向量压缩成一组整数计数器的小数组来实现。该方法可应用于实际的高维度数据集，相比其他方法具有 10 倍的压缩性能。
kernel density estimationmachine learninghigh-dimensional datasetssketching algorithmcompression
发现论文，激发创造
  • 具有统计保证的快速随机核方法

    本文章介绍了一种改进基于核方法的机器学习方法运行时间的方法，并提出了一个计算算法，该算法可以用来在不需要生成全核矩阵的情况下，对特征向量矩阵进行采样，并在统计表现和运行时间方面提供了新的保证。

    Nov, 2014

  • 高维情况下基于哈希的核密度估计器

    该论文研究了基于局部敏感哈希实现无偏估算的核密度估计数据结构，旨在在高维数据集中实现高效的核密度估计，并提供比单纯随机抽样更好的理论保证。

    Aug, 2018

  • 可扩展核聚类：近似核 k-means

    本文提出了一种基于随机化的近似核 K-means 簇算法，其利用采样点与数据集中所有点之间的核相似性来近似聚类中心，实现了与传统低秩核近似聚类方案相比更好的聚类性能、更短的运行时间和更小的内存需求，最后利用集成聚类技术进一步提高算法性能。

    Feb, 2014

  • 局部敏感量化快速私有核密度估计

    研究了不同隐私保护机制，包括局部敏感量化的构造、带核的密度估计和增强隐私工具等，实现了快速，准确和隐私保护的数据操作。

    Jul, 2023

  • 随机化草图用于核回归：快速和最优非参数回归

    本文研究了基于随机矩阵的核岭回归近似方法，证明了可以仅仅选择与统计维度成比例的投影维度来保持最小极值，从而实现了快速和极小极值的非参数回归估计。

    Jan, 2015

  • 核矩阵近似的分布式自适应采样

    介绍了一种名为 SQUEAK 的基于 RLS 抽样的核逼近算法，可以在线性时间内生成精确的核矩阵近似，并且只需处理数据集一次；同时还提出了一个并行和分布式版本，可在对数时间内线性扩展到多台机器上。

    Mar, 2018

  • 流数据近邻搜索的次线性内存草图

    本条研究提出了史上首个可查询到数据集中最近邻居的亚线性内存草图，并利用局部敏感哈希（LSH）估计器、在线核密度估计和压缩感知相结合来实现稳定查询的子线性内存性能，以取得内存 - 精度权衡的理论效果。

    Feb, 2019

  • 草图算法的统计性质

    该论文介绍了一种称为 “sketching” 的数据压缩技术，该技术通过随机投影将大型数据集压缩成较小的替代数据集，然后进行统计分析，该方法特别适用于大规模的线性回归问题。

    Jun, 2017

  • 大规模混合模型学习的速写

    本文提出了一种压缩学习框架，通过数据的限制集来估计模型参数，并演示了该方法在高斯混合模型和说话人验证任务中的成功应用，以及它与随机特征的近似希尔伯特空间嵌入方法之间的联系。

    Jun, 2016

  • 通过方差减少的草图进行非参数估计

    通过引入一种名为 Variance-Reduced Sketching (VRS) 的新框架，我们特别设计了一种在高维度中估计密度函数和非参数回归函数的方法，其降低了 “维数灾难” 的影响，并通过一系列模拟实验和实际数据应用展示了其在密度估计和非参数回归模型中相较于现有的神经网络估计器和经典核方法的显著改进。此外，我们为 VRS 提供了理论上的证明，支持其在降低维度灾难的同时提供非参数估计能力。

    Jan, 2024