fine-tuning technique | BriefGPT

关键词fine-tuning technique

搜索结果 - 4

ICML解码低秩适配器中的全球协同效应
我们介绍了 HeteroLoRA，这是一种轻量级的搜索算法，通过利用零成本代理在模型中分配有限的 LoRA 可训练参数，以提高微调性能，并在更具挑战性的搜索空间中展示了 HeteroLoRA 的有效性。
PDF13 days ago
CVPRPP-SAM：对肠息肉分割的段落任何模型的鲁棒适应性的扰动提示
我们提出了一种强大的微调技术，PP-SAM，通过有限的图像使 SAM 适应息肉分割任务，实验结果显示，在推理过程中使用 50 像素扰动的 1-shot、5-shot 和 10-shot PP-SAM 的 DICE 分数分别超过了最新的多项式
PDFa month ago
SymNoise：使用对称噪声提升语言模型微调技术
该研究介绍了一种新颖的语言模型微调技术，通过在嵌入过程中引入对称噪声，以更严格地调节局部曲率，提升模型的性能。通过使用对称噪声嵌入，该方法在 Alpaca 数据集上将 LLaMA-2-7B 模型的得分从 29.79% 显著提高到 69.04
PDF7 months ago
EMNLP知识注入的提示式微调，用于多标签少样本 ICD 编码
本研究通过适应具有标签语义的提示微调技术以及注入三种特定于医学领域的知识（层次结构、同义词和缩写）的预训练来解决自动 ICD 编码中的长尾挑战，并在 MIMIC-III-full 数据集上取得了 14.5％的性能提升，并且在 MIMIC-I
PDF2 years ago