零样本成本模型:针对即插即用学习成本预测
RoboShot 是一种完全零样本的方法,通过利用零样本语言模型(LMs)从任务描述中获得有用的见解,以优化预训练模型嵌入的健壮性,从而解决了预训练模型的继承偏差问题,并在九个图像和自然语言处理(NLP)分类任务上展示了 15.98% 的平均改进。
Sep, 2023
本文综述了现有零样本识别技术的方方面面,包括模型表示、数据集、评估方式等,并简要介绍了一些相关的识别任务,如一次性识别和开放集识别等。同时,我们也指出了现有方法的局限性以及未来的研究方向。
Oct, 2017
该研究提出了一种模型,即使没有针对该对象的训练数据,也能在图像中识别对象,并从无监督的大型文本语料库中获取对未知类别的必要知识,在语言中的分布式信息可以被视为理解物体外观的语义基础。
Jan, 2013
本篇论文提出一种新的零样本学习范式,其适用于任何格式,并适用于一系列语言任务,如文本分类、常识推理、指代消解和情感分析,并将零样本学习转化为多选任务,从而避免大规模生成模型的问题。该方法不仅增加了模型的推广能力,而且显著减少了参数的数量,同时具有高效的训练和部署特点。经实验结果表明,该方法在多个基准测试中表现卓越,且仅使用了 235M 的参数,远小于拥有十亿参数的现有先进模型。
Oct, 2022
本文提出了基于产品专家公式和 A UD 模块的零样本和少量样本归纳学习框架,利用来自非数据类的未标记采样来提高任意数量学习的泛化能力,并证明了该模型适用于有限监督场景下的广义零样本模型。
Jul, 2021
通过利用用户 - 物品交互矩阵的统计特性,我们学习了用于支持无需用户或物品辅助信息的零 - shot 自适应(zero-shot recommendation)的通用表示,从而探索了预训练推荐模型在新领域构建推荐系统的可能性。
Sep, 2023
探讨了用于意图识别的广义零射击模式,并使用句子对建模方法,通过任务转移进一步提高性能,使用语境编码器的预训练技术使模型适用于主要且适应不断变化的应用。
Jun, 2022
本文提出了一种新的零样本学习模型,利用语义嵌入空间中的聚类结构来对已知对象的类别语义描述和示例进行建模,并通过训练多个基于核的回归器来实现语义表示 - 范例对的结构约束,从而在包括 ImageNet 数据集在内的标准基准数据集上显着优于现有的零样本学习方法。
May, 2016
提出了使用零样本学习的方法在大语料库上训练模型来学习语句和其标签之间的关系,以实现模型对未知语句和标签的预测,并报告在三个不同数据集上的实验结果,该方法是自然语言处理中通向智能化的一步。
Dec, 2017