explainable ai | BriefGPT - AI 论文速递

关键词explainable ai

搜索结果 - 475

BONES：神经估计 Shapley 值的基准
Shapley Values 是 eXplainable AI 的概念，用于解释黑盒预测模型并量化特征对模型结果的贡献。为了解决当前难以复现神经估计器实验的问题，我们提出了 BONES，一个以神经估计 Shapley Value 为重点的基
PDF4 days ago
金融时间序列预测中可解释人工智能 (XAI) 综述
人工智能（AI）模型的准确性已经达到了极高水平。而它们卓越的性能虽然带来了可观的好处，但其固有的复杂性常常降低人类的信任，从而减缓了它们在金融等高风险决策领域的应用。可解释的人工智能（XAI）领域试图弥合这一差距，旨在使人们更能理解 AI
PDF5 days ago
手球的人工智能：使用深度学习和大型语言模型预测和解释 2024 年奥运会锦标赛
2024 年夏天，世界将关注巴黎，鼓励自己心爱的运动员赢得奥运会金牌。本研究运用深度学习模型预测 2024 年奥运会手球比赛结果，并结合可解释性人工智能（xAI）技术提取关键因素，同时整合大型语言模型（LLMs）生成易懂的解释，帮助体育专家
PDF5 days ago
解释机器学习模型中的决策：参数化复杂性分析
本研究对不同机器学习模型中的解释问题的参数化复杂性进行了全面的理论研究，填补了可解释人工智能领域中生成这些模型解释复杂性的重要空白，并提供了对可解释人工智能的进一步研究的洞见，从而为 AI 系统中透明度和问责制的必要性的更广泛讨论做出了贡献
PDF5 days ago
基于变形金刚深度学习架构和可解释人工智能的皮肤病分类增强
通过使用 31 类皮肤病数据集，并与各种 Vision Transformers、Swin Transformers 和 DivoV2 进行比较，本研究使用 ImageNet1k 权重在皮肤病数据集上进行迁移学习，使用 DinoV2 获得
PDF7 days ago
你为什么引用？对引用意图和决策分类过程的调查
通过使用先进的集合策略进行引文意图分类（CIC），采用语言模型（LM）和应用可解释 AI（XAI）技术来提高模型预测的可解释性和可信度，本研究强调可信地分类引文意图的重要性，以在研究评估中提供更全面和深入的分析。
PDF9 days ago
超越相似的面纱：在可解释人工智能中量化语义连续性
我们引入了一个新的度量标准来衡量可解释 AI 方法和机器学习模型中的语义连续性。通过借助 XAI 技术，我们评估了在图像识别任务中的语义连续性。我们进行实验来观察输入的增量变化如何影响不同 XAI 方法提供的解释。本文通过提出 XAI 方法
PDF10 days ago
XEdgeAI：一种以数据为中心的可解释的边缘人工智能工业检测框架
该研究介绍了一种新的 XAI 集成化视觉质量检测框架，通过优化在低资源边缘设备上的语义分割模型部署，旨在解决在工业环境中在低资源边缘设备上部署深度学习技术的挑战，并提供人为中心的可解释性，通过视觉和文本解释为最终用户提供解释，以提高模型的可
PDF11 days ago
以 XAI 为导向的植被指数增强方法用于农作物分类
我们提出了一种基于可解释人工智能的方法来选择和设计适合的植被指数，通过多光谱卫星数据训练深度神经网络，提取特征重要性以识别最具影响力的波段，并选择合适的现有植被指数或修改它们以结合已识别的波段并重新训练模型，我们的结果显示个别指数训练的模型
PDF16 days ago
CHILLI: 一种面向数据背景的解释可能性干扰方法
机器学习模型的可信性对于高风险或伦理敏感的应用非常重要，因为许多模型被视为黑盒子，用户无法理解最终决策的推理或标准。为了解决这个问题，已有的可解释人工智能方法使用扰动数据来近似模型行为。然而，这些方法被批评忽略了特征之间的依赖性，解释基于的
PDF17 days ago
提高基于深度学习的信道估计效率的可解释人工智能
提出了一个面向无线通信中信道估计的可解释人工智能（XAI）框架 XAI-CHEST，通过识别相关模型输入，优化模型结构，提高性能，降低计算复杂度。
PDF18 days ago
LaFAM: 无监督的特征归因与无标签激活图
使用原始激活图标的标签无关激活图标方法在特征归因方面呈现出高效且有效的替代方案，特别适用于自监督学习中的显著性图生成，并在监督学习场景中保持适用性。
PDF19 days ago
可解释的人工智能：基于正常与扩张型 ResNet 模型的眼底疾病分类的比较分析
使用扩张 ResNet 模型对视网膜底部图像进行疾病分类，以提高分类准确率和降低计算时间；采用解释性人工智能技术，使决策过程透明化，并与一般 ResNet 模型进行了比较。
PDF20 days ago
基于解释的模型指导将图像分类器转化为分割模型
利用解释性 AI 方法，如 Grad-CAM 和 LRP 生成的热图在许多情况下与输入图像的分割相似，因此利用热图可以实现利用图像级监督进行弱监督分割。同时，可以对可微分的热图施加损失，这用于提高热图的人工可解释性、对网络进行正则化以获得更
PDF24 days ago
基于 CNN 和分层注意力的可解释图像标题生成
利用可解释 AI 的方法来进行图像标题生成，通过使用 CNN 解码器和分层注意力机制的新架构，提高生成速度和准确性，并且向模型中添加可解释性，使其在应用中更加可信赖。模型通过 MSCOCO 数据集进行训练和评估，并且文章中给出了定量和定性结
PDFa month ago
通过自动化和模型无关的规则提取实现区域可解释性
在可解释人工智能（Explainable AI）中，我们提出了一种模型无关的方法，用于从特定的数据子组中提取规则。该方法通过自动生成数字特征规则，增强了机器学习模型的区域可解释性，并在高维空间中降低了计算成本。在各种数据集和模型的实验中，我
PDFa month ago
朝向可组合解释性的 XAI
人工智能（AI）目前主要基于黑箱机器学习模型，缺乏可解释性，解释性人工智能（XAI）的研究旨在解决这一主要问题；本论文提出一种基于范畴论的定义 AI 模型及其可解释性的方法，通过使用组合模型的概念，以形式化的字符串图表达抽象结构和具体实现，
PDFa month ago
利用替代模型方法进行 XAI 的黑客攻击
最近几年，高度复杂人工智能系统的新应用数量大幅增长。算法决策系统 (ADMs) 是其中之一，其通过人工智能系统代替人类专家的决策过程。为确保此类系统的公平性和透明性，可解释人工智能 (XAI) 越来越重要。一种实现可解释性的变体是 surr
PDFa month ago
通过神经 ODEs 和控制理论揭示 LLM 机制
此研究提出了一种新颖的方法，利用神经常微分方程（Neural ODEs）揭示大型语言模型（LLMs）中输入和输出之间错综复杂的关系，并采用稳健控制来微调输出以满足预定义的标准。该方法的核心是将 LLM 的输入和输出转换为低维的潜在空间，从而
PDFa month ago
可解释人工智能在数据驱动系统中的隐私影响
机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。
PDFa month ago