有限数据下社交机器学习的非渐进性能

Jun, 2023

有限数据下社交机器学习的非渐进性能

Non-Asymptotic Performance of Social Machine Learning Under Limited Data

Ping Hu, Virginia Bordignon, Mert Kayaalp, Ali H. Sayed

TL;DR本文研究了社交机器学习框架中的错误概率，包括独立训练阶段和在图上进行合作决策阶段。针对两种有限观测的分类任务，我们描述了分布式学习规则并相应地分析了错误概率。针对统计分类问题，我们采用几何社交学习规则进行性能分析。针对单样本分类任务，我们建立了一个分布式学习规则作为集成分类器，并构建了该集成分类器的错误概率上界。

Abstract

This paper studies the probability of error associated with the social machine learning framework, which involves an independent training phase followed by a cooperative decision-making phase over a graph. This framework addresses the problem of classifying a stream of unlabeled data i

social machine learning framework distributed learning rule classification task probability of error ensemble classifier

发现论文，激发创造

分布式统计学习中平均化的最优性

研究大数据情况下的参数平均化方法在经验风险最小化中的应用，探讨了数据分割对估计误差的影响和高维情况下的表现，得出了适用于两种情况的渐进误差估计和精度和存储复杂度之间的权衡关系。

Jul, 2014

统计学习和估计的在线与分布式算法的基本极限

本文探讨了机器学习中的信息约束，包括内存、通信、数据部分读取等约束对算法性能的影响，并得出针对不同情形，在特定限制下，算法表现将不如无限制情形的结论。

Nov, 2013

基于机器学习的统计假设检验：大偏差分析

本文研究了机器学习分类技术的性能状况，尤其关注错误概率以指数速度逼近零的速度，分析了相应的条件及所依赖的训练数据集，给出了数值检验方法和错误概率曲线，证明了相关统计量的收敛性和分布规律。

Jul, 2022

概念漂移中的分布式在线分类

研究分布式在线学习算法在静态和非静态环境下的泛化能力，推导连通学习者网络中每个节点达到的超额风险界限并研究扩散策略相对于个体非合作处理的性能优势。通过广泛的模拟来说明结果。

Jan, 2013

具有次线性通信的分布式学习

研究了在分布式学习中，如何在总通信次数亚线性的情况下通过镜像下降与随机稀疏化 / 量化迭代相结合的算法来实现线性模型的最优误差学习，从而探讨了高维环境下分布式学习的可行性。

Feb, 2019

多任务半监督学习的大维度分析

本研究通过大维度研究了一种简单而多功能的分类模型，同时涵盖了多任务学习、半监督学习和考虑不确定标签的要素。利用随机矩阵理论的工具，我们表征了一些关键功能的渐近特性，一方面可以预测算法的性能，另一方面揭示了一些关于有效使用该算法的反直觉指导。该模型不仅强大到提供良好的性能保证，而且简单到深入理解其行为。

Feb, 2024

基于数据流的无标注数据噪声评估法官的二元分类算法

本文提出两个完全基于代数的评估算法来处理嘈杂的二元分类器的未标记数据流，第一个基于多数投票，第二个是本文主要贡献，保证正确性。

Jun, 2023

一种基于有效本地函数逼近的高效分布式学习算法

本文提出了一种新的分布式训练线性分类器的方法，旨在减少通信成本，在迭代期间每个节点最小化局部形成的近似目标函数，然后合并得到下降方向移动，该方法可以看作是迭代参数混合法。

Oct, 2013

分布式数据上学习分类器的协议

本文研究了在分布于多个节点上的标记数据上学习分类器的问题，目标是找到一个单一的分类器，同时最小化节点间的通信，提出了几种基于采样的解决方案和一些双向协议，以及针对分布在两个或多个节点上的无噪声数据的核心问题。

Feb, 2012

半监督高斯混合模型的渐近贝叶斯风险

本文在贝叶斯框架下研究高维高斯混合模型的半监督学习，通过分析使用标记与未标记数据的最佳半监督方法和只使用标记数据的最佳全监督方法的差距，量化了未标记数据信息对性能的最佳提升。

Jul, 2019