interpretable ai | BriefGPT

关键词interpretable ai

搜索结果 - 19

使人工智能可理解：哲学基础
人类和人工智能是否能共享概念并进行交流？《使人工智能变得可理解》展示了意义形而上学的哲学研究如何回答这些问题，Cappelen 和 Dever 利用哲学中的外在主义传统构建了人工智能和人类相互理解的模型，从而改进了哲学传统，给出了有关理论和
PDF24 days ago
从可解释到可解读的深度学习在医疗自然语言处理中的应用：离现实有多远？
深度学习在医疗保健研究中通过解决各种自然语言处理（NLP）任务得到了极大的增强。本文对可解释和可解释的医疗 NLP 中的深度学习进行了彻底的综述。发现注意力机制是最主要的新兴 IAI，同时也提出了重要的机会，如利用注意力提升个性化医学的多模
PDF4 months ago
基于概念的可解释模型用于多模态数据诊断脉络膜肿瘤
通过使用可解释的人工智能模型，我们的研究聚焦于罕见癌症眼部肿瘤的诊断，在集成领域专家的见解和放射学报告的基础上，我们的模型不仅在 F1 评分上与黑盒模型相媲美（0.91），而且还提高了初级医生的诊断准确性（提升了 42%），这一研究凸显了可
PDF4 months ago
NCoder -- 量子场论编码数据方法
我们提出了一种基于量子场论（QFT）的可解释人工智能的新方法，即 NCoder。NCoder 是一个修改的自编码神经网络，其潜在层被规定为 $n$- 点相关函数的一个子集。通过将图像视为从晶格场论中获得的随机抽样，该架构模拟了以 Feynm
PDF5 months ago
走向可解释人工智能（XAI）：数据挖掘视角
通过数据挖掘方法和应用的角度，对深度神经网络进行可解释人工智能（XAI）的综合、数据中心的研究，并将现有工作分为三类：对深层模型的解释、对训练数据的影响以及领域知识的洞察。
PDF6 months ago
机器学习和可解释机器学习方法在精神疾病检测应用中的利与弊，具体来说是抑郁症：简要回顾
COVID-19 疫情迫使人们限制了社交活动，导致精神疾病，特别是抑郁症的增加。为了准确快速地诊断这些疾病并防止严重后果如自杀，机器学习的使用变得越来越重要。此外，为了提供精确可理解的诊断以进行更好的治疗，AI 科学家和研究人员必须开发可解
PDF8 months ago
政策评估中的因果机器学习透明度挑战 —— 提高可用性与责任认定
通过可解释的人工智能工具和符合可解释人工智能原则的模型简化，本研究探讨了透明度问题在公共政策评估中对因果机器学习的影响，并应用到一个案例研究中，展示了现有工具对于理解黑盒预测模型的不适用性，以及将模型简化以提高可解释性会导致误差的不可接受增
PDF9 months ago
从流形学习的角度看深度神经网络架构
本文旨在比较和描述神经网络结构在几何和拓扑方面的内部表示和层间数据流动的拓扑和几何动态变化，并使用拓扑数据分析和持久性同调分形维数的概念，通过不同层次的数据集以及卷积神经网络和转换网络在计算机视觉和自然语言处理任务中的各种配置的广泛实验，为
PDFa year ago
ACL深度自然语言处理模型的神经元分析 NeuroX 库
NeuroX 是一个开源的工具包，提供统一的 API 接口和数据处理评估框架，方便研究人员和实践者进行神经元分析，从而深入了解知识表示和神经元在网络中的作用，并实现 AI 的可解释性。
PDFa year ago
模糊概率决策树辅助临床实践
本文提出了一种基于概率树和模糊逻辑的全面可解释的诊断辅助方法 FPT (MedFP)，并将其作为一个概念验证应用于甲状腺结节分型和慢性肾脏疾病进展风险预测中，在提供较少错诊的同时提供意外事件及诊断不确定性的判断。实验结果表明，使用模糊变量的
PDFa year ago
COVID-19 检测深度模型可解释性分析
本研究使用卷积神经网络检测 COVID-19，使用谱图和 F0 等特征解释神经网络判定过程，生成热图来捕捉模型决策过程，结果显示谱图相关能量高的区域对决策过程起主导作用，同时 F0 也有帮助。研究表明，即使在训练集中存在虚假数据的情况下，所
PDF2 years ago
监督式特征排名算法的新型评估方法
本文提出了一种新的评估方法，使用合成数据集评估特征重要性得分，并构建了一个名为 fseval 的 Python 基准测试框架，该框架允许在 HPC 系统上并行和分布式地执行实验。通过与在线平台 Weights and Biases 集成，可
PDF2 years ago
通过解缠局部解释精细解释多模型
本篇论文致力于提高解释多模态模型的技术现状。该文中提出的 DIME 方法通过模型解离为单模态贡献和多模态交互来帮助用户更好地理解模型行为，实现了对任意模态、模型架构和任务的普遍解释。经过全面的实验验证，DIME 产生了准确的解释，可以帮助用
PDF2 years ago
Cybertrust: 从可解释到可操作和可解释的 AI (AI2)
AI 系统需要可解释与可操作特性构建决策分析视角，提高用户信任度，通过用户信心的定量化和可视化，确保系统预测的稳定性和广泛应用。
PDF2 years ago
细粒度解释的漏洞检测
通过人工智能自动识别漏洞的同时结合智能助手提供漏洞相关语句的解释信息，将敏感数据与控制依赖关系分离，使得 IVDetect 比现有方法更能辨别漏洞语句，并成功提高了解释和分析的置信度，目前 IVDetect 在漏洞数据库中的评估表现表明比现
PDF3 years ago
AAAI基于回合游戏的推理学习：第一人称射击游戏中购买决策的多任务序列生成
本研究采用多任务学习的方法，通过对轮次属性编码和多任务解码，理解轮次购买决策背后的策略。在 Counter-Strike: Global Offensive 游戏中，我们将每一轮作为一个多任务序列生成问题，将动作编码器、团队编码器、玩家特征
PDF4 years ago
通过解释剪枝：一种用于深度神经网络剪枝的新标准
本文提出了一种基于可解释性人工智能概念的 CNN 剪枝方法，通过自动寻找最相关的权重或过滤器，不需要人工调节超参数即可高效压缩模型，而且在具有资源约束的情况下表现更优，适用于计算机视觉领域的任务。
PDF5 years ago
ICML教育中的人工智能需要可解释的机器学习：来自开放学习建模的启示
本文介绍了开放式学习者建模的重要性，以及在智能教学系统和人工智能在教育中的应用方面所取得的研究成果，强调为了更好地支持人类学习和教学，对于 AI 模型的可解释性和可解释性的考虑，提供了有价值的起点。
PDF6 years ago
机器心智理论
通过设计 Theory of Mind （ToM）神经网络，该网络利用元学习从行为观察中建模遇到的智能体，从而学习模拟其他智能体在其世界中的行为，它是发展多智能体 AI 系统、构建机器人与人类交互技术和推进可解释 AI 进步的一个重要步骤。
PDF6 years ago