large-scale pretraining | BriefGPT

关键词large-scale pretraining

搜索结果 - 6

CVPR探究视觉基础模型的三维认知能力
最近大规模预训练的进步提供了具有强大功能的视觉基础模型。我们分析了视觉基础模型的三维感知能力，并通过一系列实验揭示了当前模型的几个局限性。
PDF3 months ago
AutoLoRA: 基于元学习的低秩适应中矩阵秩的自动调整
AutoLoRA 是基于元学习的框架，用于自动识别每个 LoRA 层的最佳秩，通过与选择变量相关联的方法确定最佳秩，并在自然语言理解、生成和序列标记等任务上证明了其有效性。
PDF4 months ago
联合训练大型自回归多模态模型
近年来，语言和文本到图像模型的大规模预训练的进步已经革新了机器学习领域。然而，将这两种模态集成到一个能够生成无缝多模态输出的强大模型仍然是一个重大挑战。为了解决这个问题，我们提出了联合自回归混合（JAM）框架，这是一种模块化的方法，系统地融
PDF9 months ago
RT-2：视觉 - 语言 - 行动模型将网络知识转化为机器人控制
通过在互联网规模的数据上训练视觉语言模型，将其直接融入端到端的机器人控制中，提高泛化能力和实现新兴的语义推理。我们提出了一种简单通用的方法，在模型训练集中直接将行动表现为文本标记，将自然语言回答和机器人行动合并到同一个格式中，从而实现了单一
PDFa year ago
ICML基于混合对比学习的星系基础模型构建
本文利用 BYOL 框架进行星系图像数据标签预处理任务，在使用 GZ-Evo v0.1 中，暴露相应的特征，通过深层学习和对比学习进行星系图像分类预测，在低标签迁移领域，我们的预处理 / 对比方法最大限度地提高了下游的精度 (+6%)。
PDF2 years ago
ICCV跨模态通用蒸馏方法用于文本 - 视频检索
这篇论文探索了利用大规模预训练的多个文本编码器设计的算法，提出了一种新颖的综合蒸馏方法 TeachText，并将其拓展应用到视频检索上，在多个视频检索基准上超过了现有技术，而且在测试时不会增加计算负荷。
PDF3 years ago