supervisory signals | BriefGPT

关键词supervisory signals

搜索结果 - 12

跨语言适应多语言预训练语言模型的三重方法
研究了三种低资源跨语言方法，并在语境学习和微调下发现通过添加额外的主导语言监督信号，对 LLM 的跨语言转移有所改进；同时，发现将目标语言适应词汇重排可能对 ICL 有益，但随着微调而减弱；最后，继续以一种低资源语言进行预训练可提高其他相关
PDF9 days ago
KDD对抗热度偏差的流行度感知对齐与对比
通过实证分析流行度偏见并提出了面向流行度偏见的对齐和对比模块来解决两个挑战，即从流行物品中提取通用监督信号以改进不受欢迎物品的表示，并从流行度视角提出重新加权的对比学习损失以减轻表示分离。
PDFa month ago
自主学习视觉 Transformer 用于领域泛化
本文探讨使用自我蒸馏方法解决视觉 Transformer 在领域泛化问题上的过拟合问题，并在五个具有挑战性的数据集上实现了显著的性能提升，同时表现出了对最新领域泛化方法的优异性。
PDF2 years ago
Bi-VLDoc: 面向视觉丰富的文档理解的双向视觉 - 语言建模
本文提出了一种名为 Bi-VLDoc 的预训练模型，该模型通过双向视觉语言监督策略和视觉语言混合注意机制来完全探索和利用视觉和语言之间的交互作用，以学习具有更丰富语义的更强的跨模态文档表示，并在模型效果上显著优于现有模型，包括文档理解、文档
PDF2 years ago
ACL利用社交媒体内容进行自监督风格转移
本篇论文提出一种新型自我监督的风格转换模型（3ST），根据社交媒体文章中的非并行实例，通过增强自我监督 NMT (SSNMT) 与 UNMT 方法，旨在有效地识别和利用监督信号，实现非并行数据的风格转换，表现良好。
PDF2 years ago
CVPR弱监督目标检测中的监督恢复
本研究提出了一个框架，名为 SoS，旨在利用 WSOD 的潜在监督信号，其中包括图像级标签、伪标签和半监督物体检测。在实验中，SoS-WSOD 方法在 VOC2007，VOC2012 和 MS-COCO 上取得了显著的改进和较高的性能，并且
PDF3 years ago
ICCV探索视觉参与信号用于表示学习
本研究基于视觉互动线索作为监督信号进行表征学习，并提出了一种弱监督学习方法 VisE，通过将社交媒体图片映射到基于聚类互动信号得到的伪标签来学习视觉表征，进而在情感识别或政治偏见检测等计算机视觉任务中得到了良好的效果。
PDF3 years ago
NuClick: 一个用于显微镜图像交互式分割的深度学习框架
本论文提出了一种基于 CNN 的方法 NuClick，可以快速收集核、细胞，以及腺体细胞等许多应用于计算机病理学 / 细胞学的计算机处理对象的注释，并提出了一种新的引导信号，使 NuClick 能够分割腺体的边界。在实验证明，NuClick
PDF4 years ago
ICLR关于对抗鲁棒性的重新思考：Softmax 交叉熵损失
该研究探讨了在保证标准准确率的前提下提高对抗性鲁棒性的方法，介绍了 Max-Mahalanobis 中心损失函数，强制在特征空间中诱导高密度区域，以使学习到的特征点更加紧凑和有序，从而提高对抗性防御水平。
PDF5 years ago
一种灵活的动作定位训练模型，具有不同程度的监督
提出了一种基于磁盘聚类的统一框架，它可以处理和结合不同类型的较低需求的弱监督，从视频中监测时空活动，并将其应用于训练设置中的不同类型的监督信号实验结果证明：该模型在 UC101-24 和 DALY 数据集上具有竞争性能，而且与之前的方法相比
PDF6 years ago
ICLR学习何时何地参加
使用人类注意力地图强化深度卷积神经网络的监控信号，并将其应用于目标识别，大幅提高了准确性并生成更接近人类观察者的可解释性更强的视觉特征。
PDF6 years ago
深度神经网络进行的人脸识别（DeepID3）
本篇论文提出使用 DeepID3 算法来进行人脸识别，使用了卷积神经网络和 Inception 层，并采用监督信号技术来训练神经网络，最终取得了 99.53% 的 LFW 人脸验证准确率和 96.0% 的 LFW 排名 1 的人脸识别准确率
PDF9 years ago