reasoning tasks | BriefGPT - AI 论文速递

关键词reasoning tasks

搜索结果 - 77

ACLAutoCAP：面向零 - shot 思维链的自动跨语言对齐规划
介绍了一种自动跨语言对齐规划（AutoCAP）方法，旨在解决当前跨语言推理方法中的两个主要挑战：手动语言规定和静态权重分配，AutoCAP 包括自动语言选择提示和自动权重分配提示两个核心组件，通过广泛实验验证了其在多个基准测试中取得了领先的
PDF12 days ago
SeCoKD: 对大型语言模型进行上下文学习的对齐方法，更少的示例
我们研究了如何减少示范数量，同时保持竞争性能。我们提出了 SeCoKD，一种自我知识蒸馏训练框架，通过将学生模型与大量提示变体对齐，从而提高单个示范的利用率。结果表明我们的方法在零示范和一示范设置中分别比基准模型和监督微调 (SFT) 的性
PDF12 days ago
VideoVista: 视频理解和推理的通用基准测试
通过提供综合评估多模态大型模型在视频理解和推理中的性能的全方位评估基准 VideoVista，本文揭示了视频 LMM 面临的困难、推理能力的不足以及开源视频 LMM 的性能低于 GPT-4o 和 Gemini-1.5 的问题，强调了 Vid
PDF15 days ago
ICML学习通过能量扩散的迭代推理
通过能量扩散推理（IRED）框架，我们引入了迭代推理，该框架通过基于能量的最优化来推理和决策问题，学习能量函数以表示输入条件和期望输出之间的约束。我们的实验证明，在连续空间推理、离散空间推理和规划任务中，IRED 在更具挑战性的场景中优于现
PDF15 days ago
RUPBench：基于干扰的推理鲁棒性评估大型语言模型的基准测试
通过对大型语言模型（LLMs）进行系统的鲁棒性评估，本研究提供了关于 LLMs 对多样化和噪声输入的处理能力方面的进一步改进的见解。
PDF16 days ago
实体和事件级概念化在可推广推理中的作用：任务、方法、应用及未来方向综述
本研究综述了 150 + 篇论文，对概念化的定义、执行、应用以及相关的资源方法和下游应用进行了综合分类，特别关注实体和事件层面，在此基础上，我们揭示了该领域的未来发展方向，并希望得到社区更多的关注。
PDF16 days ago
BABILong: 长篇背景下的 LLMs 极限测试和筛选
在这项研究中，我们介绍了 BABILong 基准测试，用于评估大型语言模型在处理长上下文时的效率。评估结果表明，目前流行的语言模型仅有效地利用上下文的 10-20％，并且在处理复杂的推理任务时性能急剧下降。在上下文推理的替代方法中，使用检索
PDF18 days ago
从显式 CoT 到隐式 CoT：逐步学习内化 CoT
通过逐渐去除中间步骤并微调模型，我们的方法使得一个 GPT-2 Small 模型能够以高达 99% 的准确率解决 9 乘 9 的乘法问题，而标准训练无法解决 4 乘 4 以上的乘法问题。
PDFa month ago
大型语言模型可轻松自我修正
大型语言模型 (LLMs) 的内在自我纠正能力受到了研究，然而，通过掩盖问题中的关键条件，添加当前答案构建验证问题，并预测条件以验证答案的简单但有效的验证方法，提出了逐步识别和纠正可能的错误响应的迭代验证 - 纠正框架，命名为 ProCo。
PDFa month ago
大型语言模型中的假设检验提示改善了演绎推理
本文介绍了使用不同形式的提示与预训练的大型语言模型相结合，在推理任务中取得了卓越的成果（如思路链提示）。然而，除了在更复杂的推理上进行测试外，这些方法还暴露出无效推理和虚构推理路径等问题。本文开发了一种名为 “假设测试提示” 的方法，在中间
PDF2 months ago
ACL发挥多重智慧的力量：从 LLM 路由中所学到的经验
我们探讨了是否可以将每个输入查询直接路由到最合适的 LLM，我们的广泛实验表明这样的路由有前景但在所有情景下都不可行，因此应该研究更加稳健的方法来填补这一空白。
PDF2 months ago
迭代推理偏好优化
通过优化竞争产生的 Chain-of-Thought (CoT) 候选项之间的优先级，我们开发了一种迭代方法，通过优化导致正确答案的推理步骤的胜败来改进推理任务，这种方法在多个任务上取得了优于其他不使用其他数据集的 Llama-2 模型的性
PDF2 months ago
小型语言模型需要强大的验证器来自我修正推理
在小型语言模型上进行自我纠正训练以提高推理能力，通过使用正确解决方案引导模型对不正确的回答进行批判，并使用生成的批评经过筛选后进行自我纠正理由的监督微调，实验证明在数学和常识推理方面的五个数据集上两种模型的自我纠正能力得到了提升，与 GPT
PDF2 months ago
在 GSM8K 上达到超过 97%：深入理解问题使 LLMs 成为完美的推理者
我们提出了一种名为深度理解问题（DUP）提示的新型提示策略，用于增强 LLMs 对问题的全面理解。实验结果表明，DUP 提示在各个数据集上明显优于零 - shot CoT，并在 SVAMP（90.4% 至 94.2%）和 GSM8K（94.
PDF2 months ago
COLING小型语言模型是否能帮助大型语言模型更好地进行推理？：LM 引导下的思路链
我们引入了一种新颖的框架，LM-Guided CoT，它利用轻量级（即 <1B）语言模型（LM）指导黑盒大型（即> 10B）LM 在推理任务中的工作。具体而言，轻量级 LM 首先为每个输入实例生成理论依据，接着使用冻结的大型 LM 根据轻量
PDF3 months ago
打下基础先？研究原子技能对复杂推理任务的普遍化
目前的语言模型在基本推理方面已经展示了它们的能力，但在需要结合原子技能的更复杂的推理任务上却存在困难，比如需要算术和单位转换等技能的数学问题。本文首先提出了一个探测框架，以研究原子技能是否能自主泛化到复杂推理任务。然后，引入了分层课程学习训
PDF4 months ago
掩盖思路：简单地掩盖部分推理步骤可以提高语言模型对数学推理的学习能力
在推理任务中，我们发展了一种避免使用外部资源的训练方法，通过对输入引入扰动，特别针对推理任务我们发现随机屏蔽思考链中的某些标记是特别有效的。当应用于使用 GSM8K 进行微调时，此方法相比于标准的有监督微调在准确性方面提高了 5%，无需额外
PDF4 months ago
深思熟虑：问题拓展引导提升大型语言模型的数学推理能力
使用 Problem Elaboration Prompting（PEP）改善大型语言模型（LLMs）的数学能力，在复杂推理和问题背景理解方面取得了有希望的表现。
PDF4 months ago
分而治之？您应该压缩 LLM 的哪个部分？
我们提出一种将问题分解为问题分解阶段和问题解决阶段的策略，并证明该策略能够优于单阶段解决方案。通过在结合问题解决 LLMs 的同时利用较小的问题分解模型，我们能够实现具有高效推理和局部适应性的推理。
PDF4 months ago
AURA: 有理据中的自然语言推理与偶然性不确定性
处理引起不确定性的不完美理由，根据理由的歧义性，我们指导模型选择两种不同的推理模型，从而提供稳健的性能优势。
PDF4 months ago