contrastive loss | BriefGPT

关键词contrastive loss

搜索结果 - 109

音频文本跨模态表示的无监督改进
本文研究了使用无配对数据进行无监督学习的方法，结合领域特定的有软标签的对比损失方法可以显著提高跨模态音频 - 文本表示学习的效果及其在零样本分类任务中的性能。
PDFa year ago
使用对比式 3D 人体动作合成进行文本到动作的检索
该论文提出了 TMR 方法，利用对比损失结构化跨模态潜在空间，提高文本到 3D 人体运动检索的性能，并在多个数据集上验证了其优越性能，同时也展示了其在时刻检索方面的潜力。
PDFa year ago
学会不学习：聊天机器人生成安全的探索
本文提出了一种名为 LOT 的新框架，该框架采用对比损失来增强归纳推理模型对输入上下文的泛化能力，使生成的结果避免了不安全的信息，并在保持对话流畅性的情况下，有效地减少了毒性，同时保留了内容的魅力和流畅度。经实验证明，与基线模型相比，该方法
PDFa year ago
SemEval-2023 论文集中的 MarsEclipse: 对比学习辅助的多语言多标签框架检测
该研究使用多标签对比损失在多语言环境下对大型预训练语言模型进行微调，在 SemEval-2023 任务 3 子任务 2 的 Framing Detection 中表现竞争力十分强劲。
PDFa year ago
CVPRDisCo-CLIP: 基于分布式对比损失的高存储效率 CLIP 训练
提出了一种名为 DisCo-CLIP 的分布式内存高效的 CLIP 训练方法，旨在减少对比损失在对比学习模型训练时的内存消耗，通过分解对比损失和梯度计算成两部分，一个用于计算内部 GPU 梯度，另一个用于计算跨 GPU 梯度，将跨 GPU
PDFa year ago
半监督关系对比学习
本文介绍了一种基于半监督关系对比学习的皮肤病诊断方法，通过有效利用未标记图像进行预训练 / 精调并验证了其在不同标记数据数量下的有效性。
PDFa year ago
基于对比度聚焦的视角不变自监督骨架动作识别学习
该研究提出了一种名为 FoCoViL 的自监督框架，使用对比损失函数学习共同的视图不变属性，进而获得更具判别能力的潜在表示，并通过自适应聚焦方法来增强对比学习以获得更清晰的聚类界限，该方法在无监督和有监督分类器上都表现良好。
PDFa year ago
CVPR多模式表示学习中潜在模态结构的理解与构建
我们提出了三种构建潜在模态结构的通用方法，涵盖了深度特征分离，布朗桥损失和几何一致性损失，通过广泛的实验在多个任务上获得一贯的性能提升。
PDFa year ago
有限数据下数据增强对前缀调校的有效性
该研究探讨了如何使用前缀调优和数据扩充技术来提高语言模型的性能，通过引入对比损失，有效改善语言模型处理经过加强后数据的能力。
PDFa year ago
CVPR盲图像质量评估的质量感知预训练模型
本文提出一种针对颗粒图像质量评估自我监督学习的预测任务方法，通过约束学习过程并设计质量感知对比损失，并基于改进的退化过程形成了一个约 $2 imes10^7$ 的退化空间。实验结果表明该方法显著提高了常见 BIQA 数据集上的性能。
PDFa year ago
通过分层蒸馏将预训练语言模型中的知识转移到基于 Cif 的语音识别器
该论文研究了如何利用预训练语言模型来提高自动语音识别的性能，提出了基于分层知识蒸馏的方法，并使用交叉模态蒸馏和对比损失以及回归损失来跨语言层面和声学层面校准自动语音识别模型，实现了相对误差率降低 15％，并且达到了同类最先进模型的性能。
PDFa year ago
CVPR从像素到图像与语言理解的 CLIPPO 模型
本研究提出了使用纯基于像素的单一编码器进行图像、文本和多模态任务的方法 ——CLIP-Pixels Only，其使用了对比损失进行训练，并且可以表现出强大的多语种多模态检索能力及惊人的视觉问答准确性。
PDF2 years ago
NBC-Softmax: 暗网作者指纹识别和迁移跟踪
本文提出 NBC-Softmax 对比损失聚类技术，应用于作者风格检测和 Sybil 检测，相较于现有方法性能更优。
PDF2 years ago
AAAIMicroAST：超快超分辨率任意风格迁移
本论文提出了一种称为 MicroAST 的新型超快速任意风格迁移模型，基于两个微型编码器和一个微型解码器，并引入了一种新的风格信号对比损失以提高风格编码器的处理能力。与现有方法相比，MicroAST 在速度和模型大小上的优势显著，首次实现了
PDF2 years ago
AAAICLIP-ReID: 充分利用视觉 - 语言模型进行图像重新识别，无需具体文本标签
本文提出了一种利用 CLIP 模型的文本 - 图像交互能力来解决细粒度图像重识别问题的方法，通过对学习的文本编码器给出模糊的文本描述来增强视觉表示，并通过一系列基于对比度损失的优化训练来优化文本令牌。
PDF2 years ago
基于代表共享的可扩展协作学习
通过在线知识蒸馏使用对比损失的新方法，保证了参与者在不共享其输入数据的情况下学习相似类别的相似特征，并将平均最后隐藏层激活的特征表示发布到中央服务器，然后客户端使用对比目标在其个人模型中蒸馏其知识，从而比独立学习和其他联邦知识蒸馏 (FD)
PDF2 years ago
CPT-V：一种对视觉 Transformer 进行后训练量化的对比方法
CPT-V 提出了一种利用对比损失优化量化网络的方法，可以大幅提高已经量化过的 Vision Transformer 网络的准确率，实验结果表明，在极端量化情形下，该方法具有鲁棒性。
PDF2 years ago
ECCV基于相似度的伪标签注入半监督域自适应
本研究通过引入对比损失和伪标记机制，对半监督域自适应问题进行了有效解决，并在 Office-Home、DomainNet 和 Office-31 数据集上取得了最先进的性能。
PDF2 years ago
连锁原型对比学习
本研究提出了一种简单而有效的对比学习框架来解决 Contrastive Self-supervised Learning (CSL) 中样本不足问题，将同一个输入的不同视角拉近，不同输入的视角推远，提高了视觉表征的质量，并在 ImageNe
PDF2 years ago
ECCV对比 - 生理学：通过时空对比进行无监督基于视频的远程生理学测量
本文提出了一种无监督的远程光学脉搏测量方法，利用 3D 卷积神经网络模型以及对比损失训练模型，可以在不需要参照信号的情况下提高精度，并可以更快地运行且更耐噪音。
PDF2 years ago