interpretability | BriefGPT

关键词interpretability

搜索结果 - 1054

drGAT：基于关注引导的药物反应基因评估，利用药物 - 细胞 - 基因异质网络
机器学习在药物开发过程中被广泛应用，然而药物响应预测中的模型解释性是一个重要挑战，本研究通过构建异质图来设计了一种名为 drGAT 的图深度学习模型，用于药物敏感性预测和药物机制的解释，该模型在预测药物敏感性方面表现出优越性能，也能用于寻找
PDF6 days ago
基于多阶特征交叉重要性的点击率预测方法
本文提出了一个新模型 FiiNet (多级特征交互重要性神经网络)，该模型首先使用选择性卷积神经网络 (SKNet) 来明确构建多级特征交互，以精细的方式动态学习特征交互组合的重要性，增加重要特征交叉组合的注意权重并减少无效的交叉，通过与许
PDF6 days ago
文本生成可解释性中的挑战与机遇
解释性在自然语言处理中的必要性随着大型语言模型的突出地位的不断提升而增加。该论文概述了在属性解释性方法的开发和评估过程中出现的 17 个挑战，包括词条化、定义解释相似性、确定词条重要性和预测变化度量、人类干预的水平以及适合的测试数据集的创建
PDF6 days ago
如何通过对齐优化多模态数据
研究多模态数据，重要的因素是了解各个模态之间的关系和相互作用，通过对齐各个模态数据可以提高预测质量、跨模态查询以及解决模型解释性问题。通过分析德国议员如何对待极右派 AfD 成员的演讲，以及在 2020 年美国总统竞选中预测视频广告的气氛，
PDF6 days ago
超越黑盒子：更复杂的模型是否提供更优秀的可解释性 AI 解释？
人工智能模型的不断复杂化对解释能力构成挑战，特别是在医疗领域。本研究使用四种 ResNet 架构（ResNet-18、34、50、101）对 4,369 张肺部 X 光影像进行了方法性实验，评估了模型的分类性能以及与地面真实疾病掩模相关的可
PDF6 days ago
深度神经网络中解释性与鲁棒性的相互作用探索：一种基于显著性引导的方法
通过使用基于显著性引导的训练（SGT）技术，研究表明它对深度学习模型的鲁棒性和可解释性有显著提升，并提出了一种将 SGT 与标准对抗训练相结合的方法，在确保显著性图质量的同时，实现更大程度的鲁棒性。该方法取得了显著进展，在 MNIST 和
PDF10 days ago
解释解释的 XAI 未来方向
利用大型语言模型将机器学习解释转化为自然的人类可读叙述，以增强解释性和可用性。
PDF11 days ago
可解释的交叉审查技术（ICE-T）：利用高信息量特征提升 LLM 性能
本研究介绍了一种新颖的解释性交叉审讯技术（ICE-T），该技术利用结构化的多提示技术和大型语言模型（LLMs）来提高零样本和少样本方法的分类性能。ICE-T 通过使用一系列生成的提示，使 LLM 从多个方向解决问题，将 LLM 的响应转换为
PDF12 days ago
可解释性需要新范式
解释性是将模型以可理解的方式解释给人类的研究。目前，解释性分为两个范式：内在范式认为只有设计为可解释的模型才能解释，后处理范式认为黑盒模型也能解释。在这个辩论的核心是每个范式如何确保其解释是忠实的，即与模型行为一致。本文的立场是我们应该思考
PDF12 days ago
通过时间和特征关注解释生态瞬时评估数据的聚类
本文通过提出基于注意力机制的可解释性框架来识别在区分集群时起主要作用的重要时间点和变量，并分析了应用于 187 个个体分为 3 个集群的 EMA 数据集的注意力重要属性，从集群、特征和个体水平提供了不同的特征。
PDF12 days ago
可解释的张量融合
传统机器学习方法主要用于基于单一数据类型进行预测，然而实际应用可能涉及各种类型的数据，如文本、图像和音频。我们引入了可解释的张量融合（InTense），这是一种多模态学习方法，用于训练神经网络同时学习多模态数据表示和其可解释的融合。InTe
PDF13 days ago
语言瓶颈下的政策学习
现代 AI 系统如自动驾驶汽车和游戏代理实现了超人类的表现，但是通常缺乏类似人类的特征，如泛化能力、可解释性和人机互操作性。我们通过受到人类语言和决策之间丰富交互的启发，引入了 Policy Learning with a Language
PDF13 days ago
ACL堆栈注意力的 Transformer
自然语言被认为是（轻度）上下文敏感的。为了解决 transformer 模型在建模无上下文语言任务方面的能力限制，我们提出了利用可微分的基于堆栈的注意力机制来增强它们的方法。我们的基于堆栈的注意力机制可以与任何基于 transformer
PDF13 days ago
语言模型的哲学导论 - 第二部分：前进之路
通过对大型语言模型的解释性、因果干预方法的证据，以及多模态和模块化扩展，最近关于意识最低标准的争议以及在大型语言模型研究中的保密性和可重复性方面的担忧的讨论，该文讨论了大型语言模型及其对人类认知建模的相关性。
PDF14 days ago
TLINet: 可微分神经网络时态逻辑推理
TLINet 是一个神经符号框架，用于学习 Signal Temporal Logic 公式。该框架不仅学习 STL 公式的结构，还学习参数，具有解释性、紧凑性、表达能力丰富和计算效率高等优势。
PDF17 days ago
通过无监督相似度度量集成的高级源代码克隆检测
该研究介绍了一种新的集成学习方法来评估代码相似性，结合多种无监督相似度度量的优点。初步结果表明，尽管基于 Transformers 的 CodeBERT 和其变种 GraphCodeBERT 在有充足训练数据的情况下是最佳选择，但在特定的小
PDF17 days ago
用于可解释和可争议决策的论证型大型语言模型
通过引入辩证推理方法，使用大语言模型（LLMs）构建论证框架，从而使 LLMs 的决策能够被自然地解释和争辩，通过在声称验证的决策任务中的实验，我们证明了辩论性 LLMs 的有效性，结果竞争力强于同类技术。
PDF17 days ago
可解释的生命体征预测与模型无关的注意力图
该研究通过结合深度学习模型和注意力机制的框架，提高其在预测败血症过程中的可解释性，从而支持临床决策。研究通过评估基于 eICU-CRD 数据集的模型在预测败血症患者生命体征方面的表现，并采用均方误差（MSE）和动态时间规整（DTW）度量来评
PDF18 days ago
利用地球移动距离量化脑机接口中的空间域解释
利用可解释 AI 技术，在空间领域生成特征相关性，以识别模型结果的重要通道，从而提高脑机接口的可靠性和稳健性。
PDF18 days ago
利用脑电图信号和机器学习技术进行帕金森病诊断的综合研究
通过分析人类脑电图信号，采用支持向量机分类模型，提出了一种创新的帕金森病诊断方法，该研究通过提高诊断准确性和可靠性增强了模型的性能。
PDF20 days ago