Sep, 2023

使用可学习的逐层增强策略调度来改进深度森林

PDF
TL;DR通过引入可学习的分层数据增强策略和中间层输出在检查点集成中的应用，我们提出了一种经过优化的深度森林（Deep Forest）方法。在多种表格分类任务中，我们的方法超越了浅树集成、深度森林、深度神经网络以及 AutoML 竞争对手，建立了新的业界基准。所学习的策略也对 Deep Forest 的变体有效，凸显了它在表格信号处理中增强非可微深度学习模块的潜力。
deep forestdata augmentationoverfittingensemble techniquetabular classification
发现论文，激发创造
  • 长期预测的数据增强策略搜索

    我们介绍了一种名为 TSAA 的时间序列自动增强方法，用于应对长期预测中的过拟合挑战，并在挑战性的一元和多元预测基准问题上表现出卓越的性能，建议将其整合到预测流程中。

    May, 2024

  • 深度强化学习的数据增强高效调度

    通过网络蒸馏方法，将语义一致性先验注入深度强化学习中以提高样本使用效率和泛化性能。

    Jun, 2022

  • 贪心策略搜索：用于可学习测试时数据增强的简单基准线

    本文介绍了一种名为贪心策略搜索（GPS）的高性能方法，可用于学习数据增强的策略，以提高机器学习模型的预测性能、领域内不确定性估计以及提高对领域转移的鲁棒性分析。

    Feb, 2020

  • 一个高效的通用化视觉动作策略框架：基于控制感知增强和特权引导蒸馏

    通过数据增强来解决在学习高维视觉观察中适应新环境及复杂视觉变化所面临的泛化问题，提出了学习控制感知掩码的方法以及通过预先训练的强化学习专家将知识传输给学生视觉动作策略来解决训练不稳定性问题。

    Jan, 2024

  • 将监督领域泛化融入数据增强

    通过将数据增强作为监督领域泛化问题，并利用对比语义对齐损失方法，提高数据增强的鲁棒性和训练效率。实验证明，该方法改善了典型数据增强的鲁棒性和训练效率。

    Oct, 2023

  • 数据增强优化的元方法

    本文提出了一种优化图像识别模型和数据增强策略的方法，使用梯度下降同时优化两者，通过使用 Neumann 级数逼近来近似策略梯度，以实现高效可扩展的训练，以提高各种图像分类任务的性能。

    Jun, 2020

  • 基于种群的数据扩充：高效学习数据扩充策略

    本文提出一种新的数据增强算法 ——Population Based Augmentation (PBA)—— 来生成非静态的增强策略日程表，相比于目前最先进的方法 AutoAugment，PBA 在 CIFAR-10、CIFAR-100 和 SVHN 数据集上耗费的总计算资源少三个数量级，但性能相当。在 CIFAR-10 数据集上，我们实现了 1.46% 的平均测试误差，稍微优于当前的最先进水平。

    May, 2019

  • 深度学习中的时间序列数据增强：一项调查

    本文系统地回顾了多种用于时间序列数据的数据增强方法，并通过对它们的优点和局限性进行结构化的概述来比较它们的性能，包括在不同任务下的时间序列分类、异常检测和预测，并讨论并强调了五个未来的研究方向。

    Feb, 2020

  • 通过隐式对抗数据增强提升模型的弹性

    通过融入对抗性和反对抗性扰动分布，增强样本的深度特征，适应性调整学习困难以适应每个样本的特征。同时，开发了一种基于元学习的框架，通过引入增强的效果并跳过显式的增强过程，优化分类器。在长尾学习、广义长尾学习、嘈杂标记学习和子种群转移学习等四种常见偏差学习场景中进行了广泛实验，实证结果表明该方法始终达到最先进的性能水平，突显其广泛适应性。

    Apr, 2024

  • 深度强化学习中的自动数据增强以实现泛化能力

    本文通过比较三种方法，探究如何寻找适当的数据增强方式，并结合两个新的正则化项，以理论上的方式为某些 actor-critic 算法的数据增广提供支持，最终在 Procgen 基准测试上展示了在相对于标准 RL 算法提高了～40% 的测试性能。我们的代理优于其他针对 RL 中泛化改进的基线。此外，我们还展示了我们的代理学习出更能适应环境变化的策略和表示，包括不保留背景信息的变化。

    Jun, 2020