metric aware llm inference | BriefGPT

关键词metric aware llm inference

搜索结果 - 1

度量感知的 LLM 推理
大语言模型 (LLMs) 在一系列自然语言处理任务上取得了出色的结果，但当前的推理策略对于许多任务和评估指标来说并不是最优的。为此，本研究提出了基于度量感知的 LLM 推理方法，通过决策理论在推理过程中针对特定指标进行优化，我们在学术基准和
PDF4 months ago