pre-trained large language models | BriefGPT

关键词pre-trained large language models

搜索结果 - 48

在开放世界中整合行动知识和 LLM 用于任务规划和情境处理
该研究提出了一种名为 COWP 的新框架，该框架利用预先训练的大型语言模型，动态地增加任务指向的常识知识，以应对开放式世界中的任务计划和情况处理，该方法在服务任务的成功率方面优于现有方法。
PDFa year ago
大型语言模型利用多模态数据改善阿尔茨海默氏病诊断
本研究采用预训练的大型语言模型以加强对患者非图像化数据的利用，取得了 ADNI 数据集方面的最佳结果。
PDFa year ago
利用预训练的大型语言模型构建和利用世界模型进行基于模型的任务规划
本研究引入了一种新的方法，使用 PDDL 语言构建显式世界模型，并利用预训练的大型语言模型作为 PDDL 和校验器等纠正反馈的接口，以提高计划问题的效率和准确性。在不涉及用户互动的情况下，通过验证 PDDL 模型的正确性，我们制定计划来解决
PDFa year ago
通过自然语言反馈训练，改进代码生成
本文提出了一种基于自然语言反馈的训练算法 ILF 并在神经程序综合任务中证明了其有效性，ILF 只需要少量人工编写的反馈意见就能提高 LLM 的表现，并且比仅仅基于演示训练的方法更有效和更节省样本。
PDFa year ago
台风：面向预训练语言模型的有效任务特定遮盖策略
本文探索了一种任务特定的掩蔽框架，用于预先训练的大型语言模型，在 GLUE 基准测试的数据集上实现了卓越的性能，我们基于令牌输入梯度开发了我们自己的掩码算法 Typhoon，并将其与其他标准基线进行了比较。我们发现 Typhoon 在 MR
PDFa year ago
为预训练语言模型整合非语言线索而文本化多模态信息
本文研究了如何将非语言性特征（例如视觉和听觉）转化为对应的文本描述，并将其与口头文本结合，从而将多模态信息整合到基于文本的预训练大语言模型中。我们称此方法为 TextMI，并在情感、幽默和讽刺检测等多个下游任务中进行了 fine-tune，
PDFa year ago
SPT：多任务提示学习的半参数提示调整
SPT 是一种半参数化的提示微调方法，其包含一个内存库，可以根据离散提示检索记忆提示，并通过 Fine-Tuning GLUE 数据集以及在五个自然语言处理任务类别下评估零 - shot 泛化以及在 SuperGLUE 数据集上预训练，众多
PDF2 years ago
ICLR自洽性提高语言模型的思维连贯性推理能力
本文提出了一种新的解码策略 self-consistency 来替代自我解释式激励中的贪心解码，从而在多种常识推理基准测试中提高其性能。
PDF2 years ago