contrastive pretraining | BriefGPT

关键词contrastive pretraining

搜索结果 - 11

视网膜 OCT 中退行性疾病进展的时间等变对比学习
我们提出了一种时间等变对比学习方法，通过引入时间诱发的转换来捕捉纵向成像过程中的变化，该方法在大规模纵向数据集上优于现有的等变对比方法，用于预测中间年龄相关性黄斑变性（AMD）转为先进型湿型 AMD 的进展。
PDF2 months ago
对事实对比学习的鲁棒表达：通过因果图像合成
利用计数事实图像生成的最新进展，我们提出了 CF-SimCLR，一种反事实对比学习方法，利用近似的反事实推理用于正样本对的创建，在胸部放射学和乳房 X 线检查的五个数据集上进行综合评估，证明 CF-SimCLR 可以显著提高对获得偏移的稳健
PDF4 months ago
PICL：基于物理信息的对比学习用于偏微分方程
利用对比预训练框架和广义对比损失实现神经算子在多个方程上的泛化，提高了傅里叶神经算子在固定未来任务中的准确性和泛化能力，同时在一维热、Burgers' 和线性对流方程的自回归展开和超分辨率任务中表现出相当的性能。
PDF5 months ago
揭示讲话者嵌入中的情感聚类：对话音频情感识别的对比学习策略
研究表明说话者嵌入包含有关情感的有价值信息，因此在情感识别中，利用有限的标记数据，说话者嵌入有潜力成为一种有前途的资源。通过进行彻底的聚类分析，研究人员发现了情感与最先进的说话者嵌入之间的直接且有用的联系。为了利用这些信息，他们引入了一种新
PDF5 months ago
MobileCLIP: 多模态加强训练的快速图像 - 文本模型
在这项研究中，我们引入了 MobileCLIP 这个新的高效图像 - 文本模型系列，通过一种名为多模态增强训练的新颖且高效的训练方法，利用图像字幕模型和一组强大的 CLIP 编码器中的知识转移，将额外的知识存储在增强数据集中而避免了训练时计
PDF7 months ago
理解 CLIP 中的可迁移表征学习和零射击迁移
通过对 CLIP 的理论研究，我们证明了多模态学习的可转移表示学习，并分析了其在零样本学习和下游任务中的性能。在此基础上，我们提出了一种新的 CLIP 类型方法，在基准数据集上实现了比 CLIP 和其他最先进方法更好的性能。
PDF9 months ago
图像字幕生成器也是可扩展的视觉学习者
本文通过仔细匹配训练数据、计算和模型容量，公平地比较了对比预训练和图像字幕等两种预训练策略，并发现仅采用图像字幕训练也很有效，既可以产生与对比预训练编码器竞争的视觉编码器，也可以在视觉和语言任务上超越它们。
PDFa year ago
ACLReGen: 通过渐进式稠密检索生成训练数据进行零样本文本分类
本研究提出了一个检索增强的框架，使用特征描述性词语作为 dense retriever，从无标注的语料库中创建训练数据，以便在与基于大型自然语言生成模型相比节省 70% 的时间内，取得优于最强基线 4.3% 的成绩。
PDFa year ago
AAAI通过对比知识注入消除医疗报告的歧义 "Nothing Abnormal
该研究通过对医学报告中存在的不清晰之处进行分析，主要针对医学报告中存在的语言障碍、矛盾的发现和误导性的语法错误等进行了分类，并基于这些分类提出了一种重写任务以及一种新的基于对比预训练和扰动重写的算法，从而能够更好地减少医学报告的二义性。
PDFa year ago
利用自监督对比学习和光学相干断层扫描术进行针刺过程中的组织分类
提出了一种基于深度神经网络的方法，通过对针尖处复杂 OCT 信号的相位和强度数据进行分类，辅助医生在针的插入过程中对组织结构进行识别，并且使用对比预训练技术将同位的数据映射到不同的表示，从而在受限标记数据集的情况下提高分类的精度。在仅使用
PDFa year ago
自监督表示学习的上下文自编码器
本研究提出一种基于模型对模糊图像的建模方法，即上下文自编码器（CAE），用于自我监督的表示预训练，其中引入了一种对齐约束，以使从可见补丁中预测的表示在编码表示空间中进行排列。相比之前的 MIM 方法，我们的方法利于表示学习和下游任务的进行。
PDF2 years ago