domain-specific tasks | BriefGPT

关键词domain-specific tasks

搜索结果 - 13

PharmGPT：面向生物制药和化学领域的特定领域大型语言模型
PharmGPT is a suite of multilingual LLMs specifically trained on a comprehensive corpus tailored to the Bio-Pharmaceutic
PDF8 days ago
基于联邦学习的基础模型协同优化：一项综述
基于联邦学习与基础模型的潜力和挑战以及核心技术、未来方向和应用的综述。
PDF16 days ago
ProtoS-ViT：稀疏自解释分类的视觉基础模型
冷冻预训练的 ViT 后骨干能有效地转化为示范性模型，提高模型的准确性、简洁性和可解释性，通过一系列定量和定性指标评估模型可解释性。
PDF20 days ago
基于生成强化的变压器的指令上下文增强方法
利用人类反馈的强化学习从 PPO 出发，ICE-GRT 在特定领域任务中展示了出色的能力，同时保持了通用任务性能，在小型模型中表现了分析能力的下降。
PDF6 months ago
应用大型语言模型于建筑能效和碳减排研究的机遇与挑战：一项探索性概述
近年来，大型语言模型（LLMs）在各个领域取得了快速进展和令人印象深刻的能力。本文探讨了 LLMs 在建筑能效和碳减排研究中的应用、影响和潜力。文章考察了 LLMs 在建筑能源领域的广泛能力，包括智能控制系统、代码生成、数据基础设施、知识提
PDF7 months ago
开放式识别中未知类别领域识别模型评估：一个提案
开放环境识别（OWR）是一个新兴领域，使得机器学习模型能够拒绝未知样本，并进行管理，逐步将新样本添加到基础知识。本研究提出了一个评估协议，用于估计模型在内域未知类和外域未知类之间分离能力，通过传统迁移学习、自动化机器学习（AutoML）和最
PDF7 months ago
针对特定上下文的 SQL 查询生成的语言模型微调
通过对特定领域 (零售) 生成 SQL 查询的研究，使用开源大型语言模型 (LLMs) 进行微调，将自然语言转化为 SQL 查询，提高数据库的可访问性。
PDF7 months ago
通过联合迁移学习使基础模型根植于实际：一个通用框架
使用联邦迁移学习来接地基础模型是当前学术界和工业界重要的研究方向，该研究论文介绍了一个联邦迁移学习框架，对最新的研究工作进行了详细分类和综述，提供了高效和隐私保护技术，并探讨了联邦迁移学习未来的机会和研究方向。
PDF7 months ago
人类仍胜过 LLM：一个关于特定领域注释任务的主动学习的实证研究
基于四个不同领域的实验结果，本研究发现，小模型在专家注释的情况下能够以较少标注数据的情况下胜过 GPT-3.5，并且与 GPT-4 在性能上达到或超过其，尽管小模型的规模只有后者的百分之一。因此，我们认为在真实世界的应用中，大型语言模型的预
PDF8 months ago
稀疏人力监督下的交互多保真度学习，实现经济有效的语言模型适应
我们提出了一种新颖的交互式多保真度学习（IMFL）框架，用于在有限标注预算下以低成本开发小型领域特定的大语言模型，通过平衡低保真度自动标注和高保真度人工标注之间的最佳获取策略，杂质高显学习先进医学和金融任务，在有限的人工标注预算下，IMFL
PDF8 months ago
文本到视频模型的概率适应
探索如何适应大规模预训练的文本到视频模型到多个下游领域和任务而无需微调的问题，我们提出了 Video Adapter，它利用了大型预训练视频扩散模型的分数函数作为概率先验来指导任务特定的小型视频模型的生成，实验结果表明 Video Adap
PDFa year ago
利用参数化知识引导增强的大型语言模型
本论文提出了 Parametric Knowledge Guiding（PKG）框架，使 LLMs 具有在运行时访问相关知识的能力，从而在适应长尾或特定领域任务方面提高性能，并同时考虑了透明度和数据隐私的问题。
PDFa year ago
K-BERT：利用知识图谱实现语言表示
提出了一种基于知识图谱的语言表示模型（K-BERT），可以将领域特定的知识注入到模型中，以用于解决需要专家知识的领域特定问题，实验证明其在 12 个 NLP 任务中有很好的表现。
PDF5 years ago