KDDSep, 2017

GOOWE: 面向动态数据流的几何最佳化和在线加权集成分类器

PDF
TL;DR本文介绍了一种新的数据流集成分类器，Geometrically Optimum and Online-Weighted Ensemble (GOOWE)。GOOWE 通过使用包含最近数据实例的滑动窗口，为组成分类器分配最优权重。作者在真实世界数据集和 MOA 库的合成数据生成器中使用 GOOWE，通过两个情景分析了该权重系统对预测准确性的影响，并将其与 8 种其他集成分类器进行了比较。实验结果表明，与基线相比，GOOWE 在不同类型的概念漂移下提供了更好的反应，并且具有保守的时间和内存要求。
adaptive classifiersdata streamonline ensemble classifierweight assignmentconcept drift
发现论文，激发创造
  • 进化集成模糊分类器

    本文提出了一种新的演化集成分类器，称为 Parsimonious Ensemble pENsemble，该方法由一种被称为 Parsimonious Classifier pClass 的演化分类器构建，具有动态的特征选择和集成结构，并具有检测漂移的新颖方案，在处理动态和演化数据流方面表现最有希望，可以在精度和复杂度之间实现平衡。

    May, 2017

  • 优化最优加权平均：高效分布式稀疏分类

    通过 ACOWA 技术，在分布式训练中，通过额外的通信轮次获得更准确的近似解，相较于其他分布式算法，对于稀疏分布式逻辑回归，ACOWA 获得更接近经验风险最小化的解并实现更高的准确性。

    Jun, 2024

  • 级联随机加权多数：一种新的在线集成学习算法

    本文提出了一种新的在线集成算法，通过级联版本的随机加权多数方法解决有专家建议的预测问题，获得更好的实验结果和误差范围。

    Mar, 2014

  • 局部加权集成聚类

    本文提出了一种基于集合驱动聚类不确定性估计和本地加权策略的新的集合聚类方法，利用集合中的本地多样性，提出了两种新的一致性函数来提高聚类质量，并通过大量实验验证了其优越性。

    May, 2016

  • 通过平滑加权集合提高认证的鲁棒性

    本文提出了一种利用加权平滑的集成学习（SWEEN）方案来提高随机平均分类器的性能，并证明了 SWEEN 模型不仅能够帮助实现最佳认证鲁棒性，还能通过有效的训练来获得最优性能，同时提出了一种自适应预测算法来减少对模型预测和认证的成本，并通过实验证明 SWEEN 模型的性能显着优于候选模型集的上限，采用少量小模型构建的 SWEEN 模型可在可接受的时间内达到与单个大模型相当的性能。

    May, 2020

  • 精确的软置信加权学习

    本文提出了一种新的软置信度加权在线学习方法，使传统置信度加权学习方法能够处理非可分离情况，并具有大边际训练、置信度加权、处理非可分离数据和自适应边际等特性，实验结果表明，与多种最新算法相比较，该方法在预测准确性方面普遍表现更好或至少相当，但计算效率更高。

    Jun, 2012

  • 不平衡数据流的在线集成学习

    该论文提出了一个新的学习框架，结合了在线集成算法和成批的代价敏感采样 / 提升算法，有效地解决了同时处理代价敏感学习和在线学习的问题。

    Oct, 2013

  • 自适应随机加权平均

    提出了自适应随机权重平均（ASWA）技术，该技术结合了随机权重平均（SWA）和提前停止技术，仅在验证数据集上提高泛化性能时更新模型参数的运行平均值。对于图像分类到知识图谱上的多跳推理等广泛实验中，结果表明 ASWA 在模型和数据集上都能实现统计上更好的泛化。

    Jun, 2024

  • OLR-WA 在线回归与加权平均

    机器学习中的在线学习方法 OLR-WA，通过结合新旧数据建立模型来解决数据量庞大和数据变化的问题，并通过用户定义的权重来实现对结果的偏好。与静态模型相比，OLR-WA 在一致数据上表现相似，在变化数据上，则可根据用户需求调整适应速度或抵抗变化。

    Jul, 2023

  • 加权集成自监督学习

    本文使用数据相关加权交叉熵损失函数的框架，探索如何通过集成方法提高最近的自监督学习技术，实验证明我们的方法在 ImageNet-1K 的少样本学习中优于现有的 SSL 方法

    Nov, 2022