本研究论文系统地总结了交互模型分析的三大类任务：理解、诊断和改进，旨在帮助用户高效解决实际的人工智能和数据挖掘问题，同时探讨了相关未来研究机会。

Feb, 2017

本试验的目的是研究在模型与人类在图像年龄预测任务中表现相似情况下，给人类提供好的模型预测解释是否会提高人类预测的准确度，而不好的解释会降低人类对模型的信任。研究发现，给人类提供模型预测能提高人类准确度，但图像解释并不能改变人类对模型的准确度或信任的显著差异。这一发现表明有必要对后续的决策任务进行更全面的解释评估，为用户提供基于设计的解释工具，并思考更好的生成解释的方法。

Jul, 2020

本文介绍了一个交互式系统，使用户能够操作图像，探索深度学习图像分类器的稳健性和灵敏度，用户可以使用图像修复算法删除图像特征并实时获得新的分类，从而通过实验性地修改图像并观察模型的反应，提出各种 “如果” 的问题。我们的系统允许用户比较和对比人类和机器学习模型用于分类的图像区域，揭示了一系列惊人的结果，从可观的失败（例如，“水瓶” 图像在去除一个人后变成了 “音乐会” ）到卓越的弹性（例如，“棒球选手” 图像即使没有手套或基座也能正确分类）。我们在 CVPR 会议上展示了我们的系统以供观众直播尝试，我们的系统在 https 网址上开源，视频演示可在此 https 网址上获得。

Jun, 2018

该研究提出了一种视觉分析系统（ESCAPE），通过人类参与者的观测和量化，以及减轻偏见的解决方案（debias 方法），在避免人工智能盲点（AI blindspots）和系统性错误方面具有较高的实用性。

Mar, 2023

本文提出一种基于协同语义推理（CSI）的框架，通过人机视觉交互设计，实现人与算法的可视化协同，揭示深度学习模型的推理过程，从而使用户能够理解和控制模型的部分推理过程，其应用于文档摘要系统的案例研究表明了其可行性。

Jul, 2019

机器学习可视化（VIS4ML）研究旨在帮助专家应用他们的先前知识来开发、理解和改进机器学习模型的性能。通过调查最近的 VIS4ML 研究论文，我们评估了研究贡献和使人类参与机器学习成为可能的主张的普适性，发现了当前 VIS4ML 研究范围与实际应用目标之间存在潜在差距，提出了缩小期望和研究主张之间差距的方法，并建议采用记录实践以报告更好地认识到 VIS4ML 研究的探索性质的一般性限制。

Aug, 2023

提出了一种基于交互式支持系统，结合基于知识驱动和数据驱动的机器学习方法以及人类专业知识，并实现用户反馈与决策透明解释，减轻人类负担且尊重其专业性和主观能动性的方法，以及用于工业质量控制中的良品检测任务的模式分类算法。

Mar, 2022

研究使用机器生成的视觉解释是否有助于用户理解图像分类器产生的不正确标签，结果显示显示视觉解释实际上降低了约 10％的平均猜测准确率。

Aug, 2020

采用强化学习技术将计算机视觉模型与任务奖励对齐，以解决复杂结构输出的误差问题，在多个计算机视觉任务中（对象检测，全景分割，着色，图像字幕）都显示出惊人的有效性。这种方法有望广泛用于使模型更好地与各种计算机视觉任务对齐。

Feb, 2023

本研究提出了一种交互式机器教学算法，该算法通过选择学生观察的有代表性的图片来教授具有挑战性的视觉概念，以提高机器教学和图像分类的效率。利用该算法，我们可以基于学生的正确和错误答案，概率地模拟学生的知识水平和进展情况，从而在多个真实世界的数据集上获得更好的结果。

Apr, 2015