关键词black-box machine learning
搜索结果 - 7
- MOUNTAINEER：基于拓扑的局部解释比较的可视化分析
使用黑盒机器学习方法中的可解释性方法，提出了一种基于拓扑数据分析的视觉分析工具，Mountaineer，用于交互式分析和比较这些解释方法，并帮助专家深入了解解释技术、理解数据分布和模型行为，通过两个实际案例展示了工具的实用性，并通过行业专家 - 解释为基础的成员推断攻击的博弈论理解
黑盒机器学习模型的透明性可以通过模型解释来提高，然而这也会被利用来进行会员推断攻击。本文以持续时间随机信号博弈框架为基础，研究了基于解释的阈值攻击，分析了对于一个主动攻击者在不断交互情景下发起会员推断攻击的因素，并提出了数学模型来证明存在一 - 揭开黑匣子：遥感中可解释人工智能的系统综述
近年来，黑盒机器学习方法已成为遥感领域知识提取的主要建模范式。本文通过系统回顾，总结了遥感应用中可解释人工智能方法的使用趋势、发现和挑战，并揭示了解释解析的常见模式，提供了该领域的最新综述和未来研究方向的基础。
- AAAI利用原始功能解释黑盒子的符号元模型
本文提出了一种使用 Kolmogorov 超级定理和一种改进型遗传编程方法的新方法来找到可解释元模型，用于解释黑盒机器学习模型。实验结果表明，该方法优于其他方法。
- 使用条件直方图的等形预测
本文开发了一种符合性方法，用于计算自适应于倾斜数据的非参数回归预测区间，利用黑盒机器学习算法用直方图估计结果的条件分布，将它们转化为具有近似条件覆盖的最短预测区间，数值实验表明，与最先进的相关方法相比，这些结果在有限样本情况下可以得到较好的 - 结合概念分析和 ILP 的 DNN 表达式解释
该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。
- 具有差分隐私的模型解释
使用差分隐私机制构建基于特征的模型解释，降低解释数据隐私泄露，评估差分隐私模型及其隐私机制对模型解释质量的影响。