Oct, 2019

学习数据操作以进行增强和加权

PDF
TL;DR本文介绍了一种新的方法，它支持使用相同的梯度算法学习不同的数据操作方案。这种方法基于监督学习和强化学习之间的联系，并调整来自强化学习的现成奖励学习算法，用于联合数据操作学习和模型训练。通过学习文本转换网络和动态适应数据样本重要性来展示数据扩充和数据加权，实验表明所得到的算法明显提高了图像和文本分类的性能。
data manipulationsupervised learningreinforcement learningdata augmentationdata weighting
发现论文，激发创造
  • 数据操作：通过学习增强和重新加权实现神经对话生成的有效实例学习

    本文提出了一种数据操纵框架来通过增强和突显有效的学习样本以及同时减少无效样本的影响来主动重塑数据分布，以优化对话生成模型的训练样本。通过选择性地增加训练样本并为每个实例分配重要性权重来转换训练数据。结果表明，该框架能够改善对话生成性能，符合各种自动评估指标和人类判断。

    Apr, 2020

  • 数据增强作为特征操作

    本文研究数据增强对学习过程动态的影响，发现数据增强可以改变各种特征的相对重要性，特别是对于神经网络等非线性模型更为明显，可以被看作是特征操作。

    Mar, 2022

  • 深度权重空间中的数据增强

    通过研究数据增强技术，以解决在权重空间进行学习时所面临的过拟合问题，本文提出了一种基于混合方法的新的增强方案。评估了这些技术在现有基准以及新生成的基准上的性能，为未来的研究提供了有价值的参考。

    Nov, 2023

  • 防篡改机器学习

    本研究提出了一种新的稳健性估计器，以避免在透明决策规则下个体的行为可能造成的操纵行为对决策结果的影响并在肯尼亚的一项大型实验中表明，在策略鲁棒方法估计的决策规则的指导下，其表现优于基于标准监督学习方法的规则。

    Apr, 2020

  • 学习数据增强：文本识别联合数据增强和网络优化

    本文提出了一种新的文本图像增强方法，使用自定义的参考点来生成更适合训练识别网络的样本，并通过联合学习框架优化训练过程，实验证明该方法显著提高了识别网络的性能。

    Mar, 2020

  • 深度强化学习中的数据增强再探

    各种数据增强技术在基于图像的深度强化学习中已被提出。通过分析现有方法，我们可以更好地理解它们及其不同组件的效果，并确定如何更好地利用数据增强。此分析表明了如何通过选择不同的数据增强变换来计算目标 Q 值，以更加有原则地利用数据增强。此外，我们提出了一种名为切线传递（tangent prop）的正则化项，在若干领域中验证了我们的论点，并且与不同基准模型相比，在大多数环境中取得了最先进的性能，并在某些复杂环境中展现了更高的样本效率和更好的泛化能力。

    Feb, 2024

  • 自动化机器学习中的数据增强：方法与传统数据增强方法的性能比较

    该研究论文综述了基于自动机器学习（AutoML）原理的自动数据增强技术，讨论了利用 AutoML 实现数据增强的各种方法，包括数据操作、数据集成和数据合成技术，并对搜索空间设计、超参数优化和模型评估等数据增强子任务进行了广泛的讨论。最后，通过与传统增强方法基于经典方法的最新技术进行全面比较和分析，结果显示目前 AutoML 方法在数据增强方面的性能超过传统方法的最新技术。

    Mar, 2024

  • 神经网络在线聊天响应选择的数据增强

    探讨在神经对话响应选择任务中使用排列和翻转两种数据增强代理，对多个数据集（包括中英文）的不同模型进行训练以提高泛化能力，并通过将原始和合成的数据进行组合来进行预测，实证结果表明，在全尺度和小尺度设置下，我们的方法可以在基准模型上获得 1 至 3 个 recall-at-1 点。

    Sep, 2018

  • 深度强化学习中的自动数据增强以实现泛化能力

    本文通过比较三种方法，探究如何寻找适当的数据增强方式，并结合两个新的正则化项，以理论上的方式为某些 actor-critic 算法的数据增广提供支持，最终在 Procgen 基准测试上展示了在相对于标准 RL 算法提高了～40% 的测试性能。我们的代理优于其他针对 RL 中泛化改进的基线。此外，我们还展示了我们的代理学习出更能适应环境变化的策略和表示，包括不保留背景信息的变化。

    Jun, 2020

  • 数学对象的数据增强

    通过数据平衡和数据增广来优化针对非线性多项式问题中的变量排序问题，实现了平均提高 63％的机器学习模型准确性，同时探讨了其在其他数学机器学习应用中的潜在应用。

    Jul, 2023