从解释到行动：用于异常推理和管理的端到端人在循环框架

Apr, 2023

从解释到行动：用于异常推理和管理的端到端人在循环框架

From Explanation to Action: An End-to-End Human-in-the-loop Framework for Anomaly Reasoning and Management

Xueying Ding, Nikita Seleznev, Senthil Kumar, C. Bayan Bruss, Leman Akoglu

TL;DR本文提出 ALARM 框架，支持从检测到操作的全面异常挖掘，包括无监督的新兴异常检测、异常解释和交互式 GUI，以帮助人类完成闭环过程，通过设计新的检测规则来实现探索、理解和最终采取行动并演示了该方法的有效性。

Abstract

Anomalies are often indicators of malfunction or inefficiency in various systems such as manufacturing, healthcare, finance, surveillance, to name a few. While the literature is abundant in effective detection algorithms due to this practical relevance, autonomous anomaly detection is

anomaly detection autonomous systems alarm comprehensive anomaly mining human-in-the-loop

发现论文，激发创造

时间序列中人机协同异常检测的可靠框架

我们介绍了 HILAD，这是一个旨在提升时间序列异常检测模型的人工智能与人类之间动态双向协作的新框架，通过我们的可视化界面，HILAD 赋予领域专家在大规模上检测、解释和纠正意外的模型行为的能力，通过两个时间序列数据集的评估和用户研究，我们证明了 HILAD 在促进深入人类理解、立即纠正行动以及模型可靠性提升方面的有效性。

May, 2024

医学图像分析中的主动学习和人机协作深度学习调查

通过调查人们在开发和部署深度学习应用中的作用，讨论了人在医疗领域内深度学习技术开发和部署中的重要性，同时提出了四个关键领域以及未来的前景和未解决问题，这些领域有望共同实现结合在医疗领域中的人机互动计算。

Oct, 2019

人类参与的机器学习概述

本文基于数据分析角度，对人机协同中的数据处理、模型训练和系统独立模式，进行了调查总结，分类整理，提供了自然语言处理、计算机视觉等多领域的技术优势 / 缺陷、挑战和机遇，提出了有效设计人机协同解决方案的思路。

Aug, 2021

一种透明的交互式机器学习方法，利用人工智能在 NP 难问题中找到解决方案

本文介绍机器学习领域的交互式学习方法，通过实验展示了如何使用人机交互的方式将黑箱算法变为透明的算法，以提高算法的可信度和接受度，并探讨了交互式学习方法在健康信息学领域中的应用和优势。

Aug, 2017

开发端到端异常检测系统

我们提出了一个端到端的异常检测模型开发流程，通过消耗用户反馈并进行持续的用户中心模型性能评估和优化，以解决网络中恶意和非恶意事件引发异常的模式确定困难和标记数据缺失的问题。我们通过引入和基准测试一种名为 Lachesis 的新型预测模型，在现实世界的网络问题上展示了该框架的效力。实验结果表明，与文献中提出的其他模型相比，我们提出的两个版本的 Lachesis 具有鲁棒性和有效性。我们的研究强调了通过用户反馈和迭代式开发在数据驱动产品的整个生命周期中提高性能的潜力。

Feb, 2024

模型何时以及为何失败？用于情感分析的人机交互型错误检测框架

本论文提出一种基于可解释特征的情感分析错误检测框架，通过人为干预的全局特征验证和全局与局部特征贡献分析，该方法能在高精度的情况下识别未知数据上的错误模型预测。

Jun, 2021

链式思考中的人类参与

本文介绍了一种人在循环中的系统，Manual Correction System (MCS)，使用 Chain-of-Thought 提示增强 LLM 的推理表现，并且提出了基于古典经济理论的 Cost-Utility 分析模型 (CAMLOP) 来分析、量化和平衡效用和相应成本。作者进行了 MCS 和 CAMLOP 实验，并与 12 个数据集的强基线进行比较，结果证明其超越了强基线，并具有成本和效用的显着优势。

Jun, 2023

人工智能与人类交流，服务于人类之间的交流：将可解释的无监督异常检测应用于高管教练

讨论了利用非监督异常检测构建基于人工智能的交互式系统的潜力，重点是针对高度情境化的人人通信环境，可以与领域专家协作。

Jun, 2022

人类参与下的新颖性生成

介绍了一种使用抽象环境模型的新颖性生成方法，不需要特定领域的人为指导即可生成更多的新颖性，然后采用人类的辅助选择和过滤这些生成的新颖性，并在 Monopoly 和 VizDoom 领域中测试了该方法的结果。

Jun, 2023

在交互式人机协同 AI 公平性中促进最终用户的参与

我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

Apr, 2022