我们从技术和哲学的角度讨论人类在算法决策（ADM）中的作用，具体描述了涉及的不同期望、价值观和限制所引发的紧张关系，以及介入其中的人类所面临的挑战和影响。

May, 2024

为了解决人工智能系统解释信息与受影响利益相关者信息需求之间的差距，本研究通过两个算法决策场景中受访者的采访研究，提出了 “XAI 初学者问题库”，总结了信息需求的类别和挑战，并影响了受访者对系统风险和好处的感知.

Jan, 2024

自我归因与决策 (SADM) 是一个统一的两阶段框架，它不仅建立了生成的解释与模型决策之间更可靠的联系，而且在任务性能和解释质量方面取得了竞争性结果。

Oct, 2023

我们提出了一种人本解释方法，用于法律领域的基于规则的自动决策系统。我们首先建立了一个概念框架来开发解释方法，并表示其关键内部组件（内容、沟通和适应性）和外部依赖（决策系统、人类接收者和领域）。其次，我们提出了一种解释方法，使用图数据库实现基于问题驱动的解释和多媒体展示。这样，我们可以根据用户需求定制解释。最后，我们展示了我们的概念框架如何适用于荷兰税务和海关总署的真实场景，并为该场景实现了我们的解释方法。

Oct, 2023

最近几年，高度复杂人工智能系统的新应用数量大幅增长。算法决策系统 (ADMs) 是其中之一，其通过人工智能系统代替人类专家的决策过程。为确保此类系统的公平性和透明性，可解释人工智能 (XAI) 越来越重要。一种实现可解释性的变体是 surrogate 模型，即基于黑盒模型的输入 - 输出关系训练新的简化的机器学习模型的思想。简化的机器学习模型可以是决策树，被认为对人类直观可理解。然而，关于 surrogate 模型多好地逼近黑盒模型，我们知之甚少。本文的主要假设是一个良好的 surrogate 模型方法应能引起人类的注意力，先前我们假定一个 surrogate 决策树在其前几层将识别出这种歧视模式。然而，在本文中我们展示，即使被歧视的子群体在所有类别上与其他相同，也不会从黑盒 ADM 系统获得任何正面决策，相应的群体成员问题可以由系统操作者推迟到任意低的层级。我们进一步将此发现推广到准确定位歧视问题被问及的决策树层级，并展示在更现实的场景中，即只有某一部分处于劣势的群体才发生歧视，隐藏这种歧视行为更加可行。我们的方法可以轻易应用于其他 surrogate 模型。

Jun, 2024

该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

Apr, 2022

本文研究 AI 辅助决策的团队决策，在考虑决策者面临的协同成本、不完美的算法决策等限制条件下，研发了人工智能团队学习框架和 TeamRules 算法，可提供有针对性的决策建议并在处理协同成本和团队准确性之间的平衡上产生显著的效果

Oct, 2022

本文旨在分享跨学科 XP 机器学习设计和评估方法的知识和经验，并提出了 XP 智能系统设计目标和评估方法的分类以支持 XP 研究的多样性设计目标和评估方法。我们为不同 XP 用户组的设计目标和其评估方法之间的映射提供了一个分类，以及一系列的设计指南和与之相对应的评估方法，从而关闭多学科 XP 团队的迭代设计和评估循环。

Nov, 2018

近年来，自动规划（AP）和强化学习（RL）的整合引起了广泛关注。为了实现这种整合，我们试图提供一个适用于从传统规划到深度强化学习的任何方法的顺序决策制定（SDM）的通用框架，该框架借鉴了概率论和贝叶斯推断的概念。我们用训练和测试的马尔可夫决策过程（MDPs）集合来定义 SDM 任务，以考虑泛化性。我们提供了一个 SDM 的通用算法，并推测每个 SDM 方法都基于它。根据该算法，每个 SDM 算法可以被看作是通过利用可用的任务知识来迭代改进其解决方案估计的过程。最后，我们推导出一组用于计算 SDM 任务和方法的有趣属性的公式和算法，从而使得它们的经验评估和比较成为可能。

Oct, 2023

通过多元宇宙分析方法将隐含的设计决策转化为明确的决策，并展示其公平性影响。研究结果展示了机器学习系统设计中的决策如何对公平性产生意想不到的影响，并展示了如何使用多元宇宙分析来检测这些影响。

Aug, 2023