MMFeb, 2019

揭示聪明的汉斯预测器并评估机器实际学习

PDF
TL;DR本文提出了半自动的光谱相关性分析，探究了学习机器如何解决各种问题，并对计算机视觉和街机游戏等各种任务进行了分析，展示了一系列解决问题行为。研究发现，标准的性能评估指标不能区分这些问题解决行为。此外，该方法可以帮助评估学习模型在特定问题上的可靠性，并将评价机器智能的成功更加细致和全面。
发现论文，激发创造
  • 深度学习的 HARK 面 -- 从研究生下降到自动化机器学习

    本文探讨了机器学习研究中存在的反复假设问题、负面结果的报道和算法的泛化能力。此外，从算法决策的责任、公正、道德和隐私保护的角度讨论了机器学习研究和发展的前景。

    Apr, 2019

  • 人类预测和机器学习模型解释中的欺骗检测案例研究

    该研究利用欺骗检测作为实验平台，研究了如何利用机器学习模型的解释和预测来提高人类表现，并保持人类主体性。结果表明，机器预测的解释可以促进人类表现的提高，而这种提高与机器高性能的明确建议具有相似的效果。

    Nov, 2018

  • 异常检测中的机智汉斯效应

    本文为异常检测模型提供了一种可解释人工智能（XAI）的方法，以突出不同类型模型所使用的相关特征，并揭示了 “Clever Hans” 效应在许多意外形式中的普遍存在，这是由于模型自身的结构使其无法检测到真正相关的特征，提供了警告，并指出通过允许多个异常模型相互取消其各自的结构缺陷来共同产生更好、更可信的异常检测器的可能出路。

    Jun, 2020

  • 人与机器理解之间的不协调性

    通过一项大规模众包研究，本文揭示和量化了通过图像分类任务来人与计算机理解背景的分歧，并回答了哪些复杂机器学习模型更接近于人类使用特征以进行准确预测，任务的难度如何影响机器选择特征的能力，并与人类相比，人类是否一致更擅长选择使图像识别更精确的特征。以上发现对于人机协作具有重要的意义，考虑到人工智能领域的长期目标是使机器能够像人类一样学习和推理。

    Jan, 2021

  • 分析机器学习表示：自然语言案例研究

    研究了一个自然语言处理人工系统中句子的表征，分析表明存在一些启发式策略，通过训练分布，这些系统可以学习抽象规则并将其推广到新的环境中，但也存在一些推广行为上的缺陷。

    Sep, 2019

  • 监督式机器学习可解释性调查

    该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

    Nov, 2020

  • 在深度神经网络中预先修剪 Clever-Hans 策略

    本文探讨了解释性人工智能在验证机器学习模型中的应用，发现只有用户接受了解释并不能保证模型的准确性。作者还提供了一种新的方法，即 Explanation-Guided Exposure Minimization (EGEM)，通过预先剪枝未被积极解释反馈的 ML 模型变化来减少对隐藏的 Clever Hans 策略的依赖，最终在自然图像数据上获得更高的预测准确度。

    Apr, 2023

  • 人类和机器学习中抽象概念与统计模式匹配的分离

    本研究在分析人类和神经网络在元强化学习范式中通过定抽象特征区分任务表现的差异，其中构建了一种新方法 “任务合成体”，其具有相似的统计特征但使用不同的基础生成过程。结果表明，人类在抽象任务上表现比任务合成体更好，而常见神经网络架构在抽象任务上的表现比匹配的任务合成体更差。

    Apr, 2022

  • 借助机器学习和可解释 AI 预测和了解熟练联合行动中的人类行动决策

    本研究使用 SML 和可解释 AI 方法对联合行动中的人类决策进行建模、预测和理解。结果表明，模型能够准确地预测专家和新手在任务中的目标选择决策，并能够在演员意识到决策意图之前做出预测。通过可解释 AI 方法发现，专家更受同伴状态的影响，而新手则更受其他信息的影响。

    Jun, 2022

  • HANS，你聪明吗？神经系统的聪明汉斯效应分析

    我们通过使用四个多选题基准来调查 It-LLMs 对多个探测测试的韧性能力。引入对抗性示例，我们展示了在选择顺序变化时出现的显著性能差距，揭示了选择偏差并讨论了推理能力。通过使用连续思维（CoT）技术，我们引发模型进行推理并减轻偏见，从而获得更强大的模型。

    Sep, 2023