explanations | BriefGPT - AI 论文速递

关键词explanations

搜索结果 - 280

从 SHAP 得分到特征重要性得分
本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一
PDFa month ago
解决谜题：推导深度网络的最优解释
通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。
PDF2 months ago
当因子化遇到论证：朝着论证性解释的方向
该研究提出一种将基于因子分解的模型与论证框架相结合的新模型，通过在模型的每个阶段提供明确的含义，使其能够产生易于理解的推荐解释，并能够结合用户上下文等附加信息实现更准确的预测。
PDF2 months ago
语言模型能解释其分类行为吗？
本文研究大型语言模型 (Large language models, LLMs) 是否能够给出对其内部过程的忠实的高级解释。通过引入 ArticulateRules 数据集，探讨 LLMs 在匹配其分类行为的自由形式的自然语言解释方面的准确
PDF2 months ago
抗机器之怒：基于检索增强的 LLM 解释
RAGE 是一个交互式工具，用于解释具有检索功能的大型语言模型（LLMs），能够查询外部资源并将相关信息引入其输入上下文。我们的解释是反事实的，即它们识别输入上下文的部分并在去除时改变对 LLM 提出的问题的答案。RAGE 包括修剪方法，用
PDF2 months ago
人类中心的图神经网络解释的设计要求
图神经网络为各领域的强大基于图的机器学习模型，但复杂的数据表示妨碍了对其预测解释的可理解性，从而减少了对其的信任和合作机会。该研究旨在为非技术领域专家提供可理解的图神经网络解释，并提出了一套以人为中心设计的解释要求，并通过两个示例原型来演示
PDF2 months ago
ACLTransformer 模型中的文本相似度解释
通过利用改进的解释，在语义相似性任务和模型中进行深入分析和语料库级别洞察，并使用分层相关传播（LRP）来验证结果解释的有效性，本研究探索了驱动语义相似性的特征相互作用。
PDF2 months ago
可解释的恶意软件检测：基于定制化逻辑的解释网络
使用 Logic Explained Networks (LENs) 方法在复杂领域的恶意软件检测中，提供了解释模型决策的 First-Order Logic (FOL) 规则，并在实验结果中展示了其与传统可解释方法和黑盒模型相媲美的鲁棒性
PDF2 months ago
审视显著图的常规检查
我们提出了两种对原始测试的修改：平滑 MPRT 和高效 MPRT。前者通过采样减少噪声对评估结果的影响，后者通过完全模型随机化后解释复杂性的增加来避免对相似性测量的有偏倚需求。我们的实验证明这些修改提高了度量信度，更可靠地部署解释方法。
PDF2 months ago
可解释推荐的稳定性
解释性推荐在工业界和学术界近年来备受关注。在推荐系统框架中提供的解释具有多种用途：尤其是解释为什么提供建议和物品与用户个性化偏好的匹配程度。因此，解释在影响用户购买产品方面起着重要作用。然而，这些解释在不同情况下的可靠性还没有严格从经验的角
PDF2 months ago
稳健可解释推荐
提出了一个能够在外部攻击下保持鲁棒性和提供一般性解释的特征感知可解释推荐系统的通用框架，通过在三个不断增大的流行电子商务数据集上对两个架构不同的基于特征的最先进可解释算法进行训练，实验证明了该框架在正常和嘈杂环境下全局解释能力的整体提升，展
PDF2 months ago
大型语言模型是否理解对话言外之意 —— 以中国情景喜剧为例研究
大规模语言模型的非字面含义对于其成为类似人类的社交交流者至关重要。本文首次介绍了源自中国情景喜剧《武林外传》对话的 Chinese multi-turn-dialogue-based 数据集 SwordsmanImp。我们测试了八种封闭源和
PDF2 months ago
视觉与语言解码器是否平等使用图像和文本？它们的解释是否自洽？
本研究探讨了视觉和语言模型在生成解释时与提供答案时对模态的依赖程度，并评估了视觉和语言模型解码器在后 - hoc 和 CoT 解释设置中的自我一致性，发现视觉和语言模型的自我一致性不如纯语言模型，对图像的贡献要远小于文本的贡献，尤其是在解释
PDF2 months ago
评估大型语言模型的一致性和推理能力
大型语言模型在学术、研究、商业和金融等领域被广泛应用于文本生成、摘要和翻译等任务，然而，这些模型往往会产生不正确和误导性的信息，主要原因是一致性和推理能力的不足，因此本研究旨在评估和比较公开和专有的大型语言模型的一致性和推理能力，并发现专有
PDF2 months ago
评估医疗分类模型的属性和原型的可解释性
基于 Proto-Caps 模型的 AI 方法和 xAI 解决方案提供了可理解的多模态解释，对放射科医师的决策过程有帮助，但需要进一步开发和重复用户研究以适应相应的用例。
PDF3 months ago
CVPRMCPNet：一种通过多层概念原型解释的分类器
通过使用多层概念原型分类器（MCPNet）和基于概念分布的分类方法，本研究在黑盒分类器模型的解释方面取得了显著的进展，并提供了更全面的多层解释，同时保持分类准确性。
PDF3 months ago
解开人工智能错误之谜：探索大型语言模型的人工和机器解释的有效性
本研究通过与最新方法（集成渐变、保守 LRP 和 ChatGPT）进行对比实证调查，收集和分析了 156 个人生成的文本和基于显著性的解释，并发现与机器显著性图相比，人工显著性图尤其在解释人工智能结果时更具说明性，但其性能与对人工智能模型和
PDF3 months ago
利用基数约束生成反事实解释
提供关于机器学习算法如何工作和 / 或进行特定预测的解释是改善其可靠性、公平性和鲁棒性的主要工具之一。在解释类型中，反事实是最直观的一种，它是与给定点仅在预测目标和某些特征上不同的示例，它呈现了原始示例中需要改变的特征来翻转该示例的预测。然
PDF3 months ago
COLING自动事实验证解释评估框架的探索
深度神经模型在自然语言处理中变得越来越复杂且难以解释，因此解释它们的必要性也越来越大。本文提出了一个正式框架来支持对解释的系统评估，并提供了适用于不同结构的解释的示例，重点是自动事实验证任务。
PDF3 months ago
一种基于 LLMs 的思维链提示方法用于评估学生科学形成性评价回答
本研究探讨了使用大型语言模型（LLMs）对 K-12 科学问答进行评分和解释的方法。通过结合少样本学习、主动学习和推理链条，采用 GPT-4 自动评分中学地球科学问答，我们成功地对作业答案进行评分并提供了有意义的解释，进一步系统分析了该方法
PDF3 months ago