交互可视化编辑广义加性模型的 GAM 变革

Dec, 2021

交互可视化编辑广义加性模型的 GAM 变革

GAM Changer: Editing Generalized Additive Models with Interactive Visualization

Zijie J. Wang, Alex Kale, Harsha Nori, Peter Stella, Mark Nunnally...

TL;DR通过 GAM Changer 这个开源的互动系统，使用可视化技术使得机器学习领域的数据科学家和领域专家能够轻松地分析、验证、调整他们的广义可加模型，从而消除模型中潜在的不可取的模式。

Abstract

Recent strides in interpretable machine learning (ML) research reveal that models exploit undesirable patterns in the data to make predictions, which potentially causes harms in deployment. However, it is unclear

interpretable machine learning undesirable patterns gam changer interactive system visualization techniques

发现论文，激发创造

可解释性，然后呢？通过编辑机器学习模型来反映人类的知识和价值观

本文介绍了由机器学习、人机交互研究员、医生和数据科学家联合开发的第一个交互式系统 GAM Changer，能够帮助领域专家轻松编辑广义加性模型（GAMs）并修复存在的问题，使其满足其知识和价值观。且该工具易于使用、符合编辑需要，可满足当前工作流程。

Jun, 2022

可解释机器学习模型的评估基于加性模型限制

本文探讨 Generalized Additive Models 的五个高级扩展模型和传统的六个机器学习模型，研究和评估其预测绩效和可解释性，并提出了更多的改进设计建议。

Apr, 2022

现代广义加性模型的可扩展可视化方法

本文提出了一组可视化工具，以应对现有通用加性模型的不足，并且这些工具可以与各种响应分布一起使用。这些新颖的可视化方式由 mgcViz R 软件包实现，并具有交互式和可扩展性。

Sep, 2018

NODE-GAM: 神经广义加性模型用于可解释的深度学习

本文提出了一种神经广义加性模型（NODE-GAM）和神经广义加性和模型（NODE-GA^2M），这种模型相对于其他集成和深度学习模型而言更具有可解释性，且可以自监督预训练以提高模型准确性。

Jun, 2021

Emb-GAM：使用预训练语言模型的可解释和高效预测器

该研究利用神经语言模型提取输入的嵌入，学习嵌入空间中的线性模型来构建最终模型（称为 Emb-GAM），实现了透明的、线性的功能和特征交互，并能很好地泛化到新输入。通过各种自然语言处理数据集的实验，Emb-GAM 在不牺牲可解释性的情况下实现了强大的预测性能。

Sep, 2022

GAM Coach：面向互动和用户为中心的算法补救方法

本研究提出了 GAM Coach，一种新型的开源系统，采用整数线性规划生成可定制的事后解释，并使用交互式可视化，使最终用户可以迭代地生成满足其需求的回应计划。用户研究表明，我们的工具可用且有用，并且用户更喜欢个性化的回应计划。对于普通用户，透明度可以增加发现机器学习模型中反直觉模式的机会。

Feb, 2023

广义相加模型（GAMs）的可解释性和信任度如何？

该文研究了各种算法在真实和模拟数据集上的表现，发现高特征稀疏性的广义加性模型可能会忽略数据中的模式并对稀有亚族群体不公平，而基于树的广义加性模型在稀疏性、保真度和准确性方面表现最佳，因此值得信赖。

Jun, 2020

交互式广义可加模型及其在电力负荷预测中的应用

我们提出了一种交互式 GAM 模型，它不仅具有解释性，还可以结合电力行业的特定领域知识，提高性能。这种基于提升的 GAM 利用分段线性函数，并通过我们高效的算法进行学习。在公共基准和电力数据集中，我们的交互式 GAM 优于当前最先进的方法，并在极端天气事件的情况下表现出良好的泛化能力。我们还推出了一个用户友好的基于交互式 GAM 的网络工具，并将其整合到我们的 eForecaster 产品中，这是一个统一的电力预测 AI 平台。

Oct, 2023

使用 LLMs 和可解释模型的数据科学

大规模语言模型与可解释模型（Interpretable Models）能够相互配合，LLMs 能够描述、解释和调试广义可加模型（Generalized Additive Models），结合 GAMs 描述的统计模式，使得数据集概述、问题回答和模型评论成为可能。LLMs 还能改进领域专家和可解释模型之间的交互，并产生关于潜在现象的假设。

Feb, 2024

GAN 实验室：使用交互式可视化实验了解复杂的深度生成模型

本文介绍了 GAN Lab，这是第一个面向非专家的交互式可视化工具，旨在帮助用户学习和实验复杂的深度学习模型，它紧密集成了模型概述图和分层分布图，具有与多个抽象级别的逐步训练等新型交互式实验特性。GAN Lab 使用 TensorFlow.js 实现，可以通过现代 Web 浏览器访问，无需安装或专用硬件。

Sep, 2018