SEER:一种用于上下文混合问答的背包法示例选择
通过提出 SEER 方法,我们在建立问答系统中,给出结构化解释,提高系统的可解释性和可靠性;实验证明,SEER 方法显著优于现有方法,在 EntailmentBank 上的绝对改进率达到了 6.9%,在 STREET 基准上平均提升了 4.4%,同时展现出卓越的效率和跨数据集的泛化性能。
Jan, 2024
该论文介绍了一种名为 Se^2 的顺序感知方法,通过使用大型语言模型在不同上下文的反馈来捕捉示例之间的内在关系和顺序信息,从而显著丰富了示例的上下文相关性和相关性,并利用束搜索来寻找和构建示例序列,提高了质量和多样性。在 23 个自然语言处理任务上进行的广泛实验表明,Se^2 明显优于竞争方法,在随机选择的基础上相对提升了 42%。深入分析显示了所提出策略的有效性,突出了 Se^2 在各种场景下的出色稳定性和适应性。
Feb, 2024
本文提出 JEEVES 这一基于联合检索 - 阅读器模型的算法作为一种自动问答技术。该算法使用了一种新颖的单词加权机制,通过 QA 标签隐式监督检索器,从而解决了当前 SQA 检索困难的问题。在三个 SQA 数据集上的多项选择问题对比实验证明,JEEVES 明显优于其他强基线算法。
Aug, 2021
本文探讨了如何将示例方法融入 Visual Question Answering 和 Visual Question Generation 问题的深度学习架构中,通过大量实证研究发现,融入示例方法可以显著提高这些任务的性能。
Dec, 2019
本文提出了 Rainier 方法,该方法学习在回答给定问题时生成相关上下文知识,经过增强学习后显示出实质和一致的性能增益,超过了 GPT-3 引出的常识知识的质量,并在 9 个不同的常识基准测试中获得了一致的表现提高。
Oct, 2022
本文提出了一种新的框架,通过训练密集检索器来识别高质量的上下文示例,进而提高大型语言模型(LLMs)的上下文学习表现。实验证明了该框架可以显著地提高在各种任务上的性能,而且具有良好的泛化能力。
Jul, 2023
本文提出了一种名为 SEER 的点 - of-interest 推荐模型,该模型利用嵌入式学习技术来捕捉上下文信息,学习用户偏好,进而在顺序和时间约束下推荐 POI,并将时间和地理影响因素纳入模型以增强其性能。
Jun, 2016
该研究提出了一种基于 Query Focused Extractor (QFE) 模型的可解释的多跳问答系统,使用多任务学习并结合了问答模型进行证据点提取,实验结果表明该模型在 HotpotQA 和 FEVER 任务中达到了最佳证据提取效果。
May, 2019
本研究提出了 Retrieval for In-Context Learning (RetICL),一种可学习的方法,用于模拟和最佳选择逐个该如何为 in-context learning 选择任务例子。它将顺序示例选择问题作为马尔可夫决策过程,使用 LSTM 设计示例检索器模型,并使用 PPO 进行训练。我们在数学问题求解数据集上验证了 RetICL,表明它优于启发式和可学习的基线,并在 TabMWP 数据集上实现了最先进的准确性。我们还使用案例研究展示了 RetICL 隐含学习了数学问题求解策略的表示方式。
May, 2023
通过仅使用英语注释数据,我们介绍了一种名为 XAMPLER 的跨语言示例检索方法,用于解决跨语言上下文学习的挑战,并在 176 种语言的大规模多语言文本分类基准测试中展示了其显著改进的跨语言上下文学习性能。
May, 2024