EMNLPOct, 2023

点对点度量上下文中的可用信息 V-

PDF
TL;DR通过将最近提出的硬度度量点点式 V - 可用信息（PVI）适应为上下文版本（上下文 PVI），我们评估了上下文 PVI 的可靠性，发现它与原始 PVI 具有类似的特征。此外，我们展示了如何利用上下文 PVI 来识别具有挑战性的实例，突显了上下文 PVI 的潜力并提供了对应于上下文学习能力的新见解。
in-context learningpointwise v-usable informationhardness metricexemplar selectionchallenging instances
发现论文，激发创造
  • 使用点对点 V - 信息对上下文选定进行的意图检测的有选择性数据增强

    这项研究提出了一种基于语言模型和点间 V-information 的方法，通过 in-context 合成新的对话数据并过滤无用数据，能够在少量训练数据下，显著提升意图检测性能。

    Feb, 2023

  • 大规模视觉语言模型的视域内学习

    通过引入一种新颖的视觉上下文学习方法（VICL），包括视觉演示检索、目标导向图像摘要和目标导向演示组合，解决了大型视觉语言模型（LVLMs）中上下文学习的挑战，提高了效果，并且进一步调查了演示文本长度和位置对 LVLM 的影响，展示了 ICL 复位特定模型知识的潜力。

    Feb, 2024

  • 通用上下文学习基准测试

    通过增加上下文和记忆状态的规模，以提高在上下文中学习和推广能力，与普通的上下文学习相比，泛化性上下文学习（GPICL）在广泛的任务范围内扩展学习视野，并从较低的零样本基线开始。

    May, 2024

  • ParaICL: 面向鲁棒的并行上下文学习

    通过并行处理不同批次的样本，依据语义相似性在上下文学习中同时使用所有示范样本，并通过加权平均语义目标选择最合适的标记，从而提高 ICL 的有效性。

    Mar, 2024

  • 可学习的上下文向量用于视觉问答

    学习型 ICV（L-ICV）从示范中提取必要的任务信息，改善 LMM 中的 ICL 性能，通过与传统 ICL 和其他不可学习的 ICV 方法相比，实验结果显示 L-ICV 能够显著降低计算成本并提高 VQA 任务的准确性。

    Jun, 2024

  • 点在上下文中的理解：通过上下文学习理解点云

    通过引入 Point-In-Context（PIC）框架，利用 in-context learning 解决 3D 点云的任务，同时提出了增强版 PIC-S，通过动态上下文标签和额外的上下文对提高模型性能和泛化能力。

    Apr, 2024

  • VL-ICL Bench: 基于多模态上下文学习的基准测试中的细节之魔鬼

    该研究介绍了一个全面的多模态上下文学习基准测试 VL-ICL Bench，评估了先进的视觉大语言模型在这个基准测试套件上的能力，揭示了它们的各种优势和弱点，并表明即使是最先进的模型，如 GPT-4，也会在这些任务中面临挑战。

    Mar, 2024

  • 关于现场学习的调查

    本文概述了大型语言模型的新范式 —— 上下文学习，并探讨了训练策略和演示设计策略等高级技术，以及上下文学习所面临的挑战和未来方向。

    Dec, 2022

  • 面向视觉与语言模型的多模态上下文学习

    通过对一些最先进的 VLM（Visual Language Model）进行分析，我们发现它们在执行 ICL（In-Context Learning）指令时存在一定的不足。为了验证这个猜想，我们提出了一种简单但令人惊讶地有效的策略，通过扩展一个常见的 VLM 对齐框架，实现 ICL 支持、方法和课程设置。我们探讨、分析并提供了对有效数据混合的见解，从而显著提升了 21.03% 的 ICL 表现（平均 11.3%），超过了最强 VLM 基线和多种 ICL 基准，并为 VLM 的 ICL 评估贡献了新的基准，并讨论了它们相对于现有技术的优势。

    Mar, 2024

  • 隐式上下文学习

    在这项研究中，我们介绍了一种名为 Implicit In-context Learning (I2CL) 的创新范式，通过将演示样例吸收到激活空间中，解决了传统 In-context Learning (ICL) 所面临的挑战。经过实证评估，I2CL 在三种模型架构的九个真实世界任务上实现了接近零成本的少样本性能，并且对演示样例的变化表现出鲁棒性。此外，I2CL 促进了一种名为 “task-ids” 的新颖表示，增强了任务相似性检测能力并实现了有效的迁移学习。

    May, 2024