self-supervised model | BriefGPT

关键词self-supervised model

搜索结果 - 9

可持续的自我监督学习用于语音表示
可持续人工智能聚焦于通过对数据、硬件和算法的优化来使机器学习模型更加环保。我们提出了一个可持续的自监督模型，用于学习语音表征，结合神经层和训练的优化以降低计算成本，并通过将其与资源高效模型进行比较，在内存使用和计算成本上实现了数量级的改进。
PDF23 days ago
优化对比学习用于皮层折叠模式检测
我们建立了一个自监督深度学习模型，用于检测扣带区域的皱褶模式，在包括人体连接组计划和英国生物银行在内的大规模数据集上进行了测试，并取得了量化的评估结果。
PDF5 months ago
一种面向计算病理学的通用自监督模型
使用超过 100 万个组织样本预训练的自我监督模型 UNI，在计算病理学中取得了巨大的突破，具有分辨率无关的组织分类、少样本类别原型的幻灯片分类以及疾病亚型分类等新的建模能力，为解决解剖病理学中各种具有挑战性的任务和临床工作流提供了数据高效
PDF10 months ago
利用持续预训练和学习池化的声学词嵌入技术提取未标注目标语言
本研究探讨了改进 acoustic word embeddings 的两种方法：使用预训练的 self-supervised model 进行 continued pre-training，以及使用 multilingual phone r
PDFa year ago
CVPRStepFormer：自监督下的指导视频步骤发现和定位
介绍了一种自监督方法，叫做 StepFormer，用于从无需人类监督的大规模教学视频中发现和定位关键步骤。该方法使用 transformer 解码器关注视频，以生成一系列包含视频关键步骤的槽。通过使用文本形式的指导并采用顺序感知损失过滤掉无
PDFa year ago
多模态对比学习中的表示链接
该研究开发了一个名为 CLIPPINGS 的多模态框架，它利用端到端训练，对称视觉和语言双编码器，并通过对比语言 - 图像预训练来将它们对齐，以学习一个度量空间，在这个空间中，给定实例的汇总图像 - 文本表示对于同一类别的表示非常接近，对于
PDFa year ago
使用自监督模型和多任务学习进行发音障碍语音的自动严重程度评估
使用自监督模型结合多任务学习的新颖自动程度评估方法在不充分的数据下对 Dysarthric 发音进行评估，该方法使用 Wav2vec 2.0 XLS-R 以及手工制作的声学特征和机器学习分类器，在 Korean dysarthric sp
PDF2 years ago
基于无监督对比学习的 Transformer 肺结节检测
研究通过自监督区域建模与对比学习训练方法，提出了一种新的自监督 3D 变形器模型来识别肺结节，与普遍使用的 3D 卷积神经网络相比，该模型可以极大地提高肺结节筛查的性能。
PDF2 years ago
CVPR从未修剪的网络视频中学习对象状态和状态修改动作寻找变化
本文提出一种自我监督的模型，能够在长视频中联合学习目标物体的状态（例如，空杯子和满杯子）及其相应的状态变化行为（如 “倒咖啡”），并针对噪声数据和未筛选的视频数据分别采用噪声自适应加权模块和新的视频数据集进行监督训练，并在目标动作和物体状态
PDF2 years ago