model interpretability | BriefGPT

关键词model interpretability

搜索结果 - 83

ACLAustroTox：用于基于目标的奥地利德语冒犯性语言检测的数据集
模型解释性在毒性检测中获益于对令牌级注释。我们介绍了一个从新闻论坛获取的用于侮辱语言检测的数据集，其特点是包含奥地利德语方言，包含 4562 个用户评论。除了二进制侮辱分类外，我们还确定了每个评论中构成粗俗语言或代表侮辱性陈述目标的部分。我
PDF20 days ago
基于 LLM 的层次化概念分解方法用于可解释的细粒度图像分类
我们介绍了一种名为 Hi-CoDe（层次概念分解）的新框架，通过结构化概念分析来增强模型的可解释性，并且不损害准确性，从而提供对决策过程的清晰洞察和各种概念的重要性的突出，为可解释性设定了新的基准。
PDFa month ago
MedThink：通过多模态决策理由解释医学视觉问题回答
通过设计半自动注释过程，构建了基于多模态大型语言模型生成中间医疗决策理由的新的基准 MedVQA 数据集 R-RAD 和 R-SLAKE，并将其纳入训练过程中，通过三种不同的策略生成决策结果和相应的理由，从而清楚地展示推理过程中的医疗决策过
PDF2 months ago
可解释的机器学习在天气和气候预测中的应用：一项调查
复杂的机器学习模型在天气和气候预测中取得了高预测准确性，但不透明性限制了用户的信任和模型的进一步改进。因此，提高天气和气候模型的可信度和效用至关重要，我们调查了当前应用于气象预测的可解释机器学习方法，并将其分为后处理可解释性技术和从头开始设
PDF3 months ago
基于随机采样的整张切片图像分类的多实例学习
在计算病理学中，通过对抽样补丁进行训练的多实例学习（MIL）方法在计算效率上是高效的，并且作为一种正则化策略。本研究探讨了不同采样大小对性能趋势以及对模型可解释性的影响，并在 CAMELYON16 数据集上使用 30% 的补丁实现了 1.7
PDF4 months ago
利用深度学习、机器学习和统计方法进行生存分析：预测住院后死亡的比较分析
应用不同的生存分析方法比较其性能，结果表明深度学习（DeepSurv）在歧视度和校准性方面表现最佳，而 AutoScore-Survival 则通过最小变量集实现了较好的性能和解释性。
PDF4 months ago
神经网络动力系统模型的转化系统抽象框架
本文提出了一个转换系统抽象框架，旨在增强神经网络动态系统模型的可解释性，应用于复杂的动态系统如人类行为学习和验证。
PDF4 months ago
ICLR少而精：通过亚模性子集选择获取更少的可解释区域
通过重新建模图像归因问题，该论文提出了一种基于子模集选择问题的图像归因算法，旨在利用更少的区域来增强模型的可解释性，并通过构建新颖的子模函数来发现更准确的细粒度解释区域，在子区域的选择上引入了信心，有效性，一致性和协作得分四个不同的约束来评
PDF5 months ago
IGCN：用于多模态数据的综合图卷积网络
我们提出了一种名为 Integrative Graph Convolutional Networks (IGCN) 的新型综合神经网络方法，用于多模数据网络，通过为节点嵌入分配注意系数来将多个节点嵌入融合成加权形式，并且实验证明 IGCN
PDF5 months ago
DiConStruct: 基于因果概念的黑盒压缩解释
DiConStruct 是一种基于概念和因果关系的解释方法，目的是通过结构性因果模型和概念归因来创建更可解释的局部解释，并有效地近似黑盒机器学习模型的预测，而不影响预测任务。
PDF6 months ago
AAAI通过生成对抗网络推进预先解释模型
该论文提出了一种新颖的概念学习框架，用于增强视觉分类任务中模型的可解释性和性能，通过将非监督解释生成器附加到主分类器网络中，并利用对抗训练的方式，使模型从潜在表征中提取视觉概念并与人可解释的视觉属性隐式对齐，该方法的实验结果验证了其稳健性和
PDF6 months ago
针对合成数据的下游任务导向生成模型选择 —— 用于欺诈检测模型的训练
在选择适合特定的机器学习模型类和性能度量组合的合成训练任务的最佳生成模型的过程中，我们的研究发现，当模型解释性要求苛刻时，基于贝叶斯网络的生成模型优于基于神经网络的生成模型。我们的结果为有意将训练数据从真实数据集替换为合成数据集的机器学习从
PDF6 months ago
金融时间序列预测：基于混合机器学习方法实现性能和解释性的协同
比特币价格的预测引起了在金融市场和投资策略上的关注，本研究提出了一个关于混合机器学习算法在提高模型可解释性方面的比较研究。通过实证实验，我们发现线性回归模型在候选模型中表现最好。对于模型的解释性，我们对时间序列统计的预处理技术进行系统概述，
PDF6 months ago
深度伪造检测模型的可解释人工智能评估的对抗攻击方法
通过实验证明通用的插入 / 删除解释型人工智能（XAI）评估方法并不适用于深伪造检测模型，并提出并实现了一种专门适用于深伪造检测模型的 XAI 评估方法。
PDF7 months ago
自然语言模型编辑增强的灵活模型可解释性
在大型语言模型时代，模型可解释性和模型编辑是关键目标。有趣的是，这两个目标之间存在一种联系：如果一种方法能够针对人类感兴趣的概念有系统地编辑模型行为，这种编辑方法可以通过指向相关表示并系统地操控它们来帮助使内部表示更具可解释性。
PDF7 months ago
LT-ViT：用于多标签胸部 X 射线分类的视觉 Transformer
利用 LT-ViT 来从多个尺度聚合信息，实现对胸部 X 光图像进行纯可视化模型训练，其优于基于纯 ViTs 的现有方法，在两个公开 CXR 数据集上表现出最先进的性能，并且对于其他预训练方法具有泛化性且不依赖于模型初始化，并且能够实现模型
PDF8 months ago
显式优化神经网络减少反向传播需求并发现更好的极值
基于反向传播的迭代微分逼近方法使得神经网络的优化成为可能，但目前仍然计算代价高昂，尤其是在大规模训练模型时。本文提出了一种计算效率高的神经网络优化替代方案，既能降低神经网络的扩展成本，又能为低资源应用提供高效的优化。通过数学分析其梯度，我们
PDF8 months ago
利用大型语言模型进行文本属性图的解耦合表示学习
通过 Disentangled Graph-Text Learner (DGTL) 模型，结合图结构信息和大型语言模型，提升了对文本属性图的推理能力和预测能力，并且通过提供自然语言解释来显著提高模型的解释性。
PDF8 months ago
交互式广义可加模型及其在电力负荷预测中的应用
我们提出了一种交互式 GAM 模型，它不仅具有解释性，还可以结合电力行业的特定领域知识，提高性能。这种基于提升的 GAM 利用分段线性函数，并通过我们高效的算法进行学习。在公共基准和电力数据集中，我们的交互式 GAM 优于当前最先进的方法，
PDF8 months ago
基于图分解学习的多因素时空预测
我们提出了一个多因素时空预测任务，预测不同因素下局部时空数据的演变，并将它们结合起来进行最终预测。通过理论解决方案和可移植的实例化框架，我们在这个任务中做出了两个贡献：提出了一种称为分解预测策略的有效理论解决方案，并从信息熵理论的角度证明了
PDF9 months ago