fine tuning | BriefGPT - AI 论文速递

关键词fine tuning

搜索结果 - 12

增强视觉模型以实现对文本密集内容的理解和交互
增强视觉模型对包含大量文本信息的图像进行理解和学习的能力，通过数据预处理、微调和模型评估等方法，在集成 CLIP 和文本嵌入模型的视觉聊天应用中取得了 96.71% 的精度，旨在提升复杂视觉文本数据的跨模态人工智能理解能力。
PDFa month ago
基于 BERT 的句子分类的神经架构搜索
使用大型文本语料库对语言模型进行预训练是自然语言处理中常见的做法。然后，对这些模型进行微调以在各种任务中取得最佳结果。本文对仅添加单个输出层作为网络顶部的分类头的常见做法提出了质疑。我们进行了一次自动机器学习搜索，以找到在计算成本较小的情况
PDF3 months ago
基于预训练语言模型的正则增强领域迁移主题分类：金融领域应用
本文探讨在 fine tuning 过程中采用正则表达式模式作为领域知识的特征以及注意力网络的应用，用于改善对下游文本分类任务的 fine tuning 效果。实验结果表明，相较于仅在特定领域文本上进行 fine tuning，采用这种方法
PDFa year ago
DomainInv: 对于 QA 领域适应性的领域不变微调和对抗标签校正
本研究提出了一种无监督域自适应方法，采用 Fine Tuning 和 Adversarial Label Correction，将目标领域的表示从源领域传递到靠近源领域，以此最小化目标领域实例和源实例之间的距离，并在多个目标 QA 数据集上
PDFa year ago
流场监控下的半监督光流学习
提出了一种在没有 ground truth flows 的情况下实现 fine tuning 的实用方法，该方法基于 self-supervision 和使用 flow supervisor 实现了更稳定收敛和更好的准确性，在 Sintel
PDF2 years ago
MM深度神经网络的层精调实现天体分类
研究 SDSS-IV 数据集，运用多模态学习，利用迁移学习建造 Resnet-50、DenseNet-121 VGG-16、Xception、EfficientNetB2、MobileNetV2 和 NasnetMobile 等多种不同层级
PDF2 years ago
CALM: 连续适应学习的语言建模
该研究论文提出了 CALM 技术，通过对大型语言表示模型进行连续自适应学习，使其跨领域保留知识，并在生物医学和临床领域的实验中展示了任务特定模型与 CALM 模型性能差距的减小。
PDF4 years ago
开放域问答中 BERT 微调的数据增强
本文介绍一种利用远程监督的数据增强技术来优化基于 passage retrieval 和 BERT 阅读器的问答模型的方法，通过迭代式的参数微调方法在多个数据集上进行实验，并在英文和中文数据集上取得了明显的提升。
PDF5 years ago
学习和评估通用语言智能
我们定义语言智能为利用先前获得的语言词汇、句法、语义和语用约定知识的能力，以便快速适应新任务。通过一系列实验来评估最先进的自然语言理解模型，以此定义我们的标准，并提出了一种新的评估方法，基于测试数据的在线编码，衡量现有代理（模型）学习新任务
PDF5 years ago
使用张量幂法进行 CP 分解压缩卷积神经网络
基于张量分解和张量幂法的卷积神经网络压缩方法及迭代微调优化策略实现了较高的压缩比和减少了内存和计算成本，相比现有工作在不丢失精度的情况下实现了显著的优化。
PDF7 years ago
神经机器翻译简单领域适应方法的实证比较
本文提出了一种新颖的领域自适应方法 ——“混合微调”，用于神经机器翻译。该方法将微调和多领域 NMT 两种现有方法相结合，并在一个混合了内外领域语料库的平行语料库上对 NMT 模型进行微调，然后通过增加人工标记来指示特定领域对所有语料库进行
PDF7 years ago
利用卷积神经网络更好地进行遥感场景分类
研究使用现有卷积神经网络 (ConvNets) 的三种策略：完全训练、微调和使用 ConvNets 作为特征提取器，并在使用三个遥感数据集进行了实验，结果发现对 ConvNets 进行微调是最佳的策略，使用微调后的 ConvNets 特征与
PDF8 years ago