Apr, 2017

神经网络的自动课程学习

PDF
TL;DR本篇论文提出了一种新的方法，通过评估学习进程来自动化选择神经网络学习课程，从而最大化学习效率。通过提供来自学习进展指标的信号以激励非静态多臂赌博机算法来的确定随机教学计划。对于 3 个课程上的 LSTM 网络的实验结果表明，我们的方法可以显著加快学习速度，在某些情况下，将实现令人满意的性能水平所需的时间减半。
neural networkcurriculumlearning efficiencyreward signallstm networks
发现论文，激发创造
  • 深度网络训练中课程学习的威力

    本研究分析了课程学习对深度神经网络训练的影响，使用转移学习和自举法解决难度排序问题，以及不同的步伐函数指导采样，并最终证明其有效地修改了优化模型的全局最小解。

    Apr, 2019

  • 神经机器翻译中课程学习的实证探索

    采用概率课程学习方法，可以在不损失翻译质量的前提下，缩短德语 - 英语翻译模型的收敛时间，但具体效果受到样本难度标准、课程表和超参数的影响。

    Nov, 2018

  • 基于强化学习的神经机器翻译课程优化

    本研究运用强化学习方法，实现神经机器翻译中异质训练数据的有效生成和利用，提出课程学习框架，相比于传统方法，该方法展现出更好的表现和更强的数据泛化能力。

    Feb, 2019

  • 课程学习：综述

    该文介绍了如何通过课程学习来训练机器学习模型，从而提高性能和准确率，并且探讨了如何排序和引入更难的数据，同时提供了未来工作的一些方向。

    Jan, 2021

  • 基于多视角、基于能力的图神经网络课程学习

    通过引入一种建立在图复杂性规范和模型能力的新方法，本文在课程学习中提出了一种新的视角，该方法通过考虑不同样本困难度和模型能力的观点，在训练过程中推导出有效的课程表，为图神经网络的课程学习研究提供了进一步的发展。实验结果表明了该方法在实际的链接预测和节点分类任务中的有效性。

    Jul, 2023

  • 通过设置器 - 求解器交互自动生成课程

    研究探讨了如何在动态的环境下使用自动生成的任务大纲来改善智能体的效果，介绍了使用目标的有效性、可行性和覆盖面的考虑来构建有用的任务大纲的新技术，并在 2D 和 3D 环境中展示了成功应用。

    Sep, 2019

  • 强化学习中的师生课程学习

    提出了一种基于师生课程学习的强化学习方法，该方法独立于人类领域知识和手动课程设置，可以改善学生的样本效率和通用性。

    Oct, 2022

  • 强化学习中的课程表政策学习

    本文研究课程学习在强化学习中的应用，并针对多个传递学习算法扩展已有的课程设计方法，通过学习 MDP（Markov Decision Process) 过程中的课程策略，得出可以用于训练代理人的课程，进而实现更快或同等方法的学习效率。

    Dec, 2018

  • 深度强化学习的自动课程学习：简要调查

    本文介绍了自动课程学习（ACL）的相关文献，并对当前状态进行了概述，旨在促进现有概念的交叉和新思想的出现。ACL 是深度强化学习成功的中坚力量，可用于改善样本效率和渐进性能，组织探索，鼓励泛化或解决稀疏奖励问题，等等。

    Mar, 2020

  • 大型语言模型驱动的移动网络课程设计

    本文提出了一种新颖的框架，利用大型语言模型（LLMs）来自动化课程设计，从而增强了强化学习在移动网络中的应用。

    May, 2024