reasoning shortcuts | BriefGPT

关键词reasoning shortcuts

搜索结果 - 7

系统评估推理捷径的基准套件
强大的神经分类器的出现增加了对既需要学习又需要推理的问题的兴趣，该研究论文介绍了一个包含任务评估、概念质量评估和推理快捷方式验证的综合基准套件，旨在系统地评估推理快捷方式对模型的影响。
PDF22 days ago
Transformer 中的推理：减轻伪相关性和推理捷径
用已知有误导性关联的数据集，在逻辑推理任务中训练两种模型：基于证明的生成式 Transformer 模型 WP-BART 和神经符号模型 SIP-BART。结果发现，SIP-BART 能够避免逻辑推理的捷径，而 WP-BART 无法。对于
PDF4 months ago
BEARS 使神经符号模型意识到其推理捷径
通过确保神经符号模型意识到其所学概念的语义歧义，从而使用户能够识别并不信任低质量的概念，从而不降低预测准确性，我们提出了一种名为 BEARS（BE Aware of Reasoning Shortcuts）的合奏技术，该技术校准了模型在概念
PDF5 months ago
神经符号概念不全是平等的：分析和缓解推理捷径
本文针对神经符号预测模型的推理快捷方式进行了系统表征，并鉴定了其发生的四个关键条件，提出了多种自然化缓解策略，并从理论和经验上分析了它们的功效，揭示了推理快捷方式的处理难度以及可能对现有神经符号解决方案的可靠性和可解释性产生质疑。
PDFa year ago
神经符号推理快捷方式：缓解策略及其局限性
通过建立神经符号预测器 (即从子符号输入到更高层概念的映射) 提出了一种深度学习的 setup，然后在这种中间表示上进行 (概率) 逻辑推理。本文建立了推理捷径与损失函数的 optima 之间的形式链接，并确定了推理捷径可能出现的情况。在此
PDFa year ago
ACL多跳阅读理解模型对日期信息的理解能力如何？
该研究提出了 HieraDate 数据集，分析了多跳模型在比较问题的逐步推理和内部推理过程的能力。结果表明，多跳模型在减去两个日期的计算中表现不佳。同时，研究发现，当在主 QA 任务中使用探针问题时，模型的性能得到了显著提高，并且该数据集可
PDF2 years ago
ACL避免推理捷径：多跳问答的对抗评估、训练和模型开发
本论文针对 HotpotQA 数据集中的多跳问题回答过程中存在 reasoning shortcuts 的问题，通过构建对抗性文档解决了该问题。同时，提出使用控制单元指导模型的多跳推理，使得 2-hop 模型在 1-hop baseline
PDF5 years ago