ICMLSep, 2023

更快、更轻、更准确：用于内容审核的深度学习集成

PDF
TL;DR基于简化的视觉特征，我们提出了一个高效且轻量级的深度分类集成结构，以解决对高准确率分类具有低误报的暴力内容的需求。通过使用一组轻量级模型进行颜色特征的缩减，并应用于图像和视频，我们评估了该方法并与常用的深度学习模型进行了比较，结果显示了预测准确率的显著提高，同时推广了快速推理和较低的计算成本。虽然我们的方法针对爆炸检测，但也可应用于其他类似的内容管理和暴力检测用例。基于我们的实验，我们提出了 “小思考，多思考” 的分类策略，认为将单一的大型深度模型转化为多个小型、简单且轻量级模型的验证式步骤模型集成可能导致更高准确率的预测。
content moderationdeep classification ensembleviolent contentlightweight modelsverification-based step model
发现论文，激发创造
  • 深度卷积神经网络的集成方法在图像分类中的相对性能

    该研究通过探究多种集成方法，包括超级学习器等，运用人工神经网络在图像识别任务中进行设计多个实验，并进一步研究了神经网络的过度自信现象及其对集成方法的影响，并在所有实验中发现超级学习器是表现最佳的集成方法。

    Apr, 2017

  • 使用大量异构神经网络进行标签去噪

    该研究讨论了使用知识蒸馏和混合技术的集成模型的方法，以解决大规模视频分类问题。

    Sep, 2018

  • 深度假像检测：利用 2D 和 3D CNN 集成的能力

    该研究使用 2D 和 3D 卷积神经网络的创新方法验证视频内容，结合滑动过滤器捕捉空时特征，利用 Voting Ensembles 和 Adaptive Weighted Ensembling 优化 3D 模型输出，在对抗深度伪造生成的欺骗性实践方面展现出潜力。

    Oct, 2023

  • 使用深度卷积神经网络优化的集成学习医学图像分类分析

    该研究提出了一种可复现的医学图像分类管道，分析了集成学习技术在深度学习医学图像分类管道中的优化效果，发现 Stacking 技术效果最好，能增加 13％的 F1 得分，此外，Augmenting 和 Bagging 技术也能显著提高性能。此外也展示了简单的统计汇总函数与较复杂的机器学习技术汇总函数相比并不逊色。综述结果表明，集成学习技术的使用能够为医学图像分类管道提高性能和抗干扰能力。

    Jan, 2022

  • 基于卷积组合的小样本缺陷检测技术

    本文提出了一种使用多个预训练卷积模型作为骨干的 few-shot 分类新方法，使用新颖的集成技术提高了准确性，同时大大减少了总参数数量，实现了实时检测，通过强调超参数搜索，该模型在竞争标准中超越了现有的最先进方法，取得了 92.30％的 5-way 5-shot 任务准确率。

    Aug, 2022

  • DeL-haTE: 偏见言论检测的深度学习可调整集成模型

    针对社交媒体上在线仇恨言论问题，提出了一种基于集成深度学习模型的新框架，包括对未标记数据集的自动分类、调整因子和弱监督学习方法，可有效提高依恋集等小众平台的恶意言论检测率。

    Nov, 2020

  • 使用多模深度集成检测恶意模因

    本研究探讨了几种最新的视觉 - 语言 Transformer 结构，提出改进措施，以使它们在检测仇恨言论的任务中更接近于人类的准确性。提出的模型明显优于基准线，并在 3100 多个参赛者中排名第 5。

    Dec, 2020

  • 众志成城：使用集成模型的逐轮一致性来抵御过拟合

    通过理论分析和经验验证，在深度神经网络中，过拟合发生时，分类器之间的差异性增加。受此结果的指导，我们提出了一种新的基于集成的预测方法，以对抗过拟合。该方法通过选择训练过程中最一致的预测结果来确定最终预测，有效消除了过拟合对模型泛化性能的不利影响，甚至在性能上超过了早停止方法。这种易于实现、可与任何训练方案和架构集成的方法，不需要额外的先验知识，因此是克服过拟合问题的实用和有用工具。

    Oct, 2023

  • 多模态数据筛选与整理：基于目标检测和过滤器集成

    我们提出了一种用于 2023 年 DataComp 竞赛过滤轨道的多模态数据筛选方法，该方法将目标检测和基于弱监督的集成相结合，使性能提升了 4%，并在小规模轨道中取得了排名第一的位置，并且通过集成现有基准和弱监督方法在中等规模轨道上实现了 4.2% 的改进。

    Jan, 2024

  • 探索用于提升集成强健性的模型学习异质性

    通过形式分析和实证评估，本文展示了异构深度集成模型可以通过高集成多样性有效地利用模型学习的异质性以提高集成的鲁棒性。

    Oct, 2023