fine-tuning strategy | BriefGPT

关键词fine-tuning strategy

搜索结果 - 12

利用 LLMs 进行表格数据的异常检测
利用大型语言模型（LLMs）来检测表格异常，并展示了预训练的 LLMs 在零样本批量级异常检测方面的效果，同时提出了一种简单但有效的数据生成过程和端到端微调策略来对齐 LLMs 检测真实异常的潜力。
PDF10 days ago
论文标题：上下文学习和微调 GPT 用于论证挖掘
大型语言模型 (LLMs) 在自然语言处理和深度学习领域已变得无处不在。我们介绍了一种基于 In-Context Learning (ICL) 的策略，结合 kNN-based examples selection 和 majority v
PDF24 days ago
ConceptMath：大型语言模型数学推理的双语概念评估基准
本研究介绍了 ConceptMath，它是一个双语（英文和中文）的细粒度基准，用于评估大型语言模型的概念级数学推理能力。与评估一般数学推理平均准确率的传统基准不同，ConceptMath 通过将数学问题按照数学概念的层次进行系统组织，从而可
PDF4 months ago
使用偏移量的直接偏好优化
直接偏好优化（DPO）是一种成功调优策略，用于将大型语言模型与人类偏好对齐，而无需训练奖励模型或使用强化学习。本文提出了一种名为带有偏移量的 DPO（ODPO）的 DPO 泛化方法，通过对更喜欢或更讨厌的回复之间的可能性差异设置偏移量，以在
PDF5 months ago
DFU：零射术超分辨图像生成的规模鲁棒扩散模型
通过结合空间和谱域信息的双 FNO UNet 架构，我们提出了一种利用操作学习技术的新型深度学习架构，该架构可以在多个分辨率上近似计算分数算子，实现了同时训练多个分辨率的众多优势，使得 DFU 能够在没有训练数据的情况下一致、高保真地进行更
PDF7 months ago
图神经网络代理模型的可解释微调
使用图神经网络的可解释微调策略对基于网格的流体动力学建模进行研究，以提高其可预测性和解释性，并通过正则化过程识别与预测错误相关的图节点。
PDF8 months ago
CLIP-AD：语言导向的分层双路径零样本异常检测模型
本文介绍了一种利用大型视觉语言模型 CLIP 的零样本异常检测方法 CLIP-AD，采用语言引导策略，通过引入 Staged Dual-Path 模型来解决相似度计算、关键特征、文本与图像特征等问题，进一步引入线性层进行 fine-tuni
PDF8 months ago
基于无监督深度学习的波段融合技术与频谱空间保真度的联合增强
最近几年，深度学习在多分辨率图像泛光提升中起着主导作用。本文提出了一种基于深度学习的全分辨率训练框架，通过定义适当的损失函数和训练方法，充分发挥了这种方法的潜力，提供了先进的性能。实验证明，该方法在数值结果和视觉输出方面与现有技术相比具有显
PDFa year ago
基于提示的 Transformer 模型调参用于多中心医学图像分割
本文提出了一种基于 prompts 的微调策略，将预训练的 transformer-based 分割模型适应于新的医疗中心数据，以实现医疗图像分割，不仅提升了在新医疗中心数据上的表现，同时也显著降低了细调预训练模型的计算和时间成本。
PDFa year ago
EMNLPCodeExp: 生成说明性代码文档
本文提出了代码解释生成任务，通过多阶段优化和基线模型的 fine-tuning 使得模型在生成的解释中包含更多实现级别的选择，并在实验中展示了一个经过改进的训练数据集可以比较人工撰写的 docstring 相媲美，这一任务可以极大地受益于软
PDF2 years ago
ACL基于元学习的零样本跨语言软层选择
该论文提出了一种新的元优化器方法，用于在高资源语言上对多语言预训练上下文嵌入模型进行微调以实现零样本跨语言转移，该方法优于基线模型和 X-MAML 模型。
PDF3 years ago
ACL基于矩阵积算子的预训练语言模型压缩的轻量级微调
提出了一种基于量子多体物理中的矩阵积算符（简称 MPO）的新型预训练语言模型压缩方法，其可以将原始的矩阵分解成中心张量和辅助张量，通过仅更新辅助张量的参数进行微调并为 MPO 结构设计优化算法，可应用于原始或压缩的语言模型以实现更轻量级的网
PDF3 years ago