多任务半监督学习的大维度分析
我们提出了一个理论框架,用于分析高维情况下基于低密度分离假设的半监督分类。我们介绍了 QLDS,一个线性分类模型,其中低密度分离假设通过二次边界最大化来实现。该算法具有显式解和丰富的理论性质,我们证明了我们算法的特殊情况是有监督情况下的最小二乘支持向量机,完全非监督情况下的谱聚类以及一类半监督图方法。因此,QLDS 在这些有监督和无监督学习方法之间建立了一个平滑的桥梁。利用随机矩阵理论的最新进展,我们正式推导了在渐近情况下的分类误差的理论评估。作为应用,我们得出一个超参数选择策略,找到在我们学习准则的有监督项和无监督项之间的最佳平衡。最后,我们提供了我们框架的广泛示例,以及在几个基准测试上的实验研究,证明了 QLDS 在计算效率更高的同时,在超参数选择上优于交叉验证,表明随机矩阵理论在半监督模型选择中具有很大的潜力。
Oct, 2023
提出了一种基于自监督学习和对抗训练的半监督多任务学习模型,称为 S$^4$MTL,可用于医学成像中的分割和诊断分类任务。实验结果表明,该模型在减少 50% 标签数量的情况下,明显优于半监督单任务、半 / 全监督多任务和全监督单任务模型,并且可以用于解决有限注释问题的联合训练。
May, 2020
本文提出了一种新的谱范数方法,用于多任务学习,假设任务被分成不同的群组,每个群组具有相似的权重向量,并演示其在合成数据及 IEDB MHC-I 结合数据集上的优秀表现。
Sep, 2008
文章提出了一种基于多任务弱监督的矩阵补全方法,通过建立弱监督任务之间的相关性解决弱监督准确性低的问题,从而提高模型训练的效果。实验结果表明,与传统的有监督方法相比,该方法能平均提高 20.2% 的准确率。
Oct, 2018
本文在贝叶斯框架下研究高维高斯混合模型的半监督学习,通过分析使用标记与未标记数据的最佳半监督方法和只使用标记数据的最佳全监督方法的差距,量化了未标记数据信息对性能的最佳提升。
Jul, 2019
本文考察了在复杂预测任务中半监督学习的应用,提出了一种基于预测聚类树的(分层)多标签分类方法,并通过实验评估证明了该方法及其集成学习的显着优势。此外,该方法具有可解释性和时间复杂度优势。
Jul, 2022
本文研究了社交机器学习框架中的错误概率,包括独立训练阶段和在图上进行合作决策阶段。针对两种有限观测的分类任务,我们描述了分布式学习规则并相应地分析了错误概率。针对统计分类问题,我们采用几何社交学习规则进行性能分析。针对单样本分类任务,我们建立了一个分布式学习规则作为集成分类器,并构建了该集成分类器的错误概率上界。
Jun, 2023