long-context capabilities | BriefGPT

关键词long-context capabilities

搜索结果 - 7

GraphReader: 基于图的智能体构建以增强大型语言模型的长上下文能力
GraphReader 是一个基于图的代理系统，能够处理长篇文本，并在 LV-Eval 数据集上表现出优异性能。
PDF14 days ago
多模态大语言模型的长上下文能力基准测试
对多模态大语言模型进行了全面评估，介绍了一种用于长上下文能力评估的基准测试方法，包括多图像输入和图像拼接，以加大输入上下文长度，并开发了一个自动生成子图像级标签的协议。通过基于文本指令和图像内容描述，对 MLLMs 在长上下文图像输入中在一
PDF17 days ago
基于蟒蛇的语言模型的实证研究
选择性状态空间模型（SSMs）如 Mamba 克服了 Transformer 的一些缺点，例如与序列长度呈二次增长的计算复杂度和从键值缓存中获取大量的推理时间内存需求。此外，最近的研究显示，SSMs 可以达到或超越 Transformer
PDF22 days ago
长跨度问答：通过并行评估自动生成问题和问答系统排序
通过使用大型语言模型的长期上下文能力，我们利用整本书籍创建合成阅读理解数据。我们提出了一个全面的自动化数据生成流程，包括问题生成、回答和模型评分。我们还发现将答案在模型之间进行相对比较，并使用 Bradley-Terry 模型进行排名，与绝
PDFa month ago
Counting-Stars: 评估长上下文大语言模型的简单、高效和合理策略
近期的研究工作集中在开发具有强大的长上下文能力的大型语言模型（LLMs），由于缺乏适当的评估策略，对于领先的 LLMs（例如 ChatGPT 和 KimiChat）的长上下文处理能力和性能了解甚少。为了填补这一空白，我们提出了一种简单、高效
PDF4 months ago
CLongEval: 用于评估长文本大语言模型的中文基准
我们提出了一个用于评估长文本上下文下的大型语言模型的全面中文基准测试 ——CLongEval，特点是足够的数据量、广泛的适用性和高质量。通过对 6 个开源长文本上下文大型语言模型和 2 个领先的商业对手进行评估，我们对长文本上下文模型的关键
PDF4 months ago
在长上下文大语言模型中推进 Transformer 架构的综合调查
该研究论文主要针对基于 Transformer 的大型语言模型的长上下文能力进行了模型架构的改进，并提供了与之相关的评估需求以及未来研究的挑战和潜在方向。
PDF7 months ago