用梯度网络进行半监督学习
本文研究了一种神经网络架构 Ladder Network,通过剔除或替换部分组件,探究了其各个组成部分的贡献及重要性,并提出了新型组合函数,在全监督和半监督任务中均取得了较好的性能表现。
Nov, 2015
本文提出了一种基于递归的 Ladder 神经网络扩展,以此解决层次潜在变量模型中需要的推理问题,并证明该架构能够处理包括迭代推理和时间建模在内的各种复杂学习任务,涵盖视频数据的时间建模和提高基于高阶抽象的感知聚类等问题。作者在完全监督、半监督和非监督任务方面都取得了不错的结果,这表明所提出的架构和原则是学习抽象层次结构、学习迭代推理和处理时间信息的强有力工具。
Jul, 2017
本文介绍了一种新的成本函数来进行神经网络的半监督学习,该函数通过动态创建一个图形来捕获特征空间中的潜在结构,并使用标签传播来估计其高和低密度区域,最终利用马尔科夫链设计出一种成本函数,以形成每类一个单一的紧凑簇,同时在优化过程中避免扰乱现有的簇,该方法在三个基准测试中表现良好,将基于图形的正则化的优点与高效的归纳推理相结合,不需要修改网络架构,可以轻松应用于现有网络,实现对未标记数据的有效利用。
Jun, 2018
本研究利用基于流形假设的传导标签传播方法,对整个数据集进行预测,并利用这些预测值为未标记数据生成伪标签,并训练深度神经网络。经实验证明,这种方法在几种数据集中相对于当前的最新技术表现更好,特别是在有限标志数量的情况下。
Apr, 2019
该研究提出了一种基于人类学习启发的深度神经网络半监督训练系统,利用少量标注数据和大量未标注数据,通过关联学习和优化调度实现有效的分类任务性能提升。
Jun, 2017
本研究提出了一种基于深度去噪自编码器和横向连接的无监督辅助学习模型,通过反向传播同时最小化监督和无监督成本函数的总和,避免了逐层预训练,显著提高了排列不变 MNIST 分类任务的效果。
Apr, 2015
该研究提出了一种半监督学习方法,利用一个 “目标网络” 和一个 “置信网络” 进行多任务训练,在大量弱注释未标注数据上优化目标网络,同时用置信网络的分数来加权目标网络的梯度更新,以避免噪声标签对目标网络模型的质量造成损害,并在评估中证明其相对基线的性能得到提高,同时从弱标签中提高了学习速度。
Nov, 2017
本文介绍了一种基于深度卷积神经网络的半监督学习方法,通过引入无监督的正则化项来指导决策边界落在不同数据类别的低密度区域,从而提升使用未标记数据的物体识别性能。
Jun, 2016