supervision signal | BriefGPT

关键词supervision signal

搜索结果 - 13

KDD领域泛化中异质性的定量测量与对比探讨
利用对比学习提出了一种基于异质性的两阶段对比学习 (HTCL) 算法，在第一阶段使用对比度量生成最异质的划分模式，第二阶段利用先前生成的划分模式进行不变性对比学习，以更好地利用生成的域标签进行广义学习，从而更好地挖掘异质性并产生良好的广义性
PDFa year ago
基于因果推断的图神经网络注意力监察：通往强大注意力的更好和更简单选择
本文介绍了一种新的框架，利用因果关系工具为学习注意力函数的过程提供强有力的监督信号，可用于任何基本的基于注意力的图神经网络，并在广泛的基准数据集上进行了验证。
PDFa year ago
SpanDrop：用于长序列的简单有效的反事实学习
本文介绍了一种名为 SpanDrop 的数据增强技术，通过删除长序列的部分元素来辅助模型识别真实的监督信号，从而解决了在数据量稀少或者信息量很大的情况下预测长序列的难题，在一些有关自然语言处理的任务中取得了良好的效果。
PDF2 years ago
CVPR表示、比较和学习：基于相似度意识的类别不可知计数框架
本研究提出了一个相似性感知的类不可知计数 (CAC) 框架，它同时学习了特征表示和相似度度量，并通过一个叫做 BMNet 的基线和一个叫做 BMNet + 的扩展模型对其进行了实例化，以 FSC147 数据集为实验基础，证明了该模型显著优于
PDF2 years ago
基于记忆增强的多实例对比预测编码模型用于序列推荐
本文提出了一种基于记忆增强型多实例对比性预测编码模式的序列推荐框架（MMInfoRec），以克服长期偏好难以捕捉和监管信号过于稀疏等方法问题，并通过在四个基准数据集上进行广泛实验，证明其优于现有最佳方法。
PDF3 years ago
Graph-MLP: 图中节点分类不需要消息传递
本文提出了一个基于多层感知机的图神经网络模型 (Graph-MLP)，通过利用图结构的监督信号，该模型仅使用多层感知机、激活函数和层归一化，而无需用到信息传递模块，在 loss level 中，设计了一个邻域对比损失 (NContrast)
PDF3 years ago
使用实例捆绑进行阅读理解学习
该篇研究论文提出由反差估计引申出的几种新的监督技术，结合多个相关实例中的问题 - 答案得分，对非独立问题进行训练并加入交叉熵损失项，在 HotpotQA 和 ROPES 两个数据集上获得了高达 11% 的绝对精度提升。
PDF3 years ago
ICML通过学习带有噪声监督的方式训练二元神经网络
本文从学习的角度对神经网络中的二值化操作进行了形式化描述，并提出了一种从全精度神经元映射到目标二进制神经元的映射方法，其采用了一种无偏估计方法以减轻监督噪声的影响，实验证明该二值化技术能够优于基准方法。
PDF4 years ago
ECCV类别重要性：一种细粒度对抗方法用于跨域语义分割
该研究提出了一种基于精细级别对抗学习的策略，用于解决目标域内的类别级别特征对齐问题，从而提高语义分割模型在实际场景下的性能。
PDF4 years ago
ECCV多视角知识蒸馏强鲁棒性再识别
该研究旨在构建一种基于视角知识蒸馏（VKD）的模型，通过在 teacher-student 框架下将多种视角信息作为监督信号进行主动学习，从 Video-To-Video 到 Image-To-Video，显著提高了人、动物、车辆重识别的性
PDF4 years ago
深度人脸识别中的 Git Loss
本文提出了一种融合了 softmax 和 center loss 函数的联合监督信号 Git loss，旨在最小化同类内部差异、最大化异类间距离，以增强深度特征的判别能力，通过在两个人脸识别基准数据集上的实验证明 Git loss 可以达到
PDF6 years ago
代际知识蒸馏：更具宽容性的教师教育更好的学生
本文从严格性控制角度研究了深度神经网络的教师网络和学生网络的优化问题。通过针对教师网络训练中的宽松性进行优化，使得学生网络在学习过程中更容易获得跨类别相似性信息，从而在 CIFAR100 和 ILSVRC2012 等数据集的图像分类任务中取
PDF6 years ago
深度神经网络的对比中心损失
本文提出了一种新的辅助监督信号 —— 对比中心损失，它能够进一步增强特征的区分能力，通过惩罚训练样本到它们对应类别中心距离的对比值和样本到非对应类别中心距离之和的对比值同时考虑了类内紧凑性和类间可分性。在不同的数据集上的实验证明了对比中心损
PDF7 years ago