few-shot generalization | BriefGPT

关键词few-shot generalization

搜索结果 - 6

通过双向对齐改善上下文学习
大型语言模型通过在上下文中学习（ICL）在许多任务上展示了令人印象深刻的少量样本泛化能力。本研究提出了双向对齐（BiAlign）方法，旨在充分利用模型对 ICL 示例的偏好，提高较小模型的 ICL 能力。通过与大型模型的输入偏好对齐，同时对
PDF6 months ago
MyoDex: 灵巧操作的可推广先验
利用多任务学习模型和行为先验，研究人类灵巧性和机器人物理控制在各种接触丰富的行为中的学习和操作能力。
PDF10 months ago
GPS: 基因提示搜索用于高效的少样本学习
本文介绍了使用遗传算法自动搜索高性能提示信息的 Genetic Prompt Search（GPS）来改善少样本学习的性能，该方法不需要模型参数更新，只需要一个小型验证集。实验结果表明，GPS 比手动提示信息的性能高出 2.6 个百分点，并
PDF2 years ago
ACL使用自我训练提高数据到文本生成的组合泛化能力
本文研究了结构化意义表示到自然语言生成中 T5 模型的泛化问题，提出了基于模板的输入表示和基于 fine-tuned BLEURT 的自训练方法来改善模型的泛化和性能，在少样本场景下通过常用的 SGD 和 Weather 基准测试取得了比强
PDF3 years ago
EMNLP自我监督元学习用于少样本自然语言分类任务
本文提出了一种自监督的方法来生成大量的 meta-learning 任务分布，通过这种方法，将 transformer 模型的预训练与 meta-learning 相结合，证明了这种方法能够在 NLP 任务上实现更好的少样本泛化。
PDF4 years ago
ECCV基于解释的弱监督学习在视觉关系中的应用：图网络
该论文提出了一种新型的弱监督方法，使用最少的图像级谓词标签，利用图神经网络从检测到的对象的图形表示中对图像中的谓词进行分类，将关系检测作为谓词分类器的解释，并在三个不同且具有挑战性的数据集上展示结果，表明该方法具有对不全面注释的强健性和良好
PDF4 years ago