ICMLJun, 2018

教育中的人工智能需要可解释的机器学习：来自开放学习建模的启示

PDF
TL;DR本文介绍了开放式学习者建模的重要性，以及在智能教学系统和人工智能在教育中的应用方面所取得的研究成果，强调为了更好地支持人类学习和教学，对于 AI 模型的可解释性和可解释性的考虑，提供了有价值的起点。
open learner modellingintelligent tutoring systemsai in educationinterpretable aimachine learning
发现论文，激发创造
  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018

  • 音视频情感机器学习的可解释性研究综述

    该研究通过对 29 篇研究文章进行结构化文献综述，发现近五年来出现了在情感机器学习中采用可解释性方法的趋势，然而这些方法存在范围和评估深度的限制，并且缺乏用例的考虑，因此提出了对研究的主要空白的概述和建议。

    Jun, 2023

  • 编程作业中隐含的学生知识表征的解释

    利用生成式大型语言模型的最新进展，我们通过引入 InfoOIRT 模型（一种信息正则化的开放性项目反应理论模型）对潜在的学生知识表示进行解释，以生成学生编写的开放性编程问题代码。通过在实际编程教育数据集上的实验，我们展示了 InfoOIRT 既能准确生成学生代码，又能产生可解释的学生知识表示。

    May, 2024

  • 代数学习：走向可解释信息建模

    以代数学习（Algebraic Learning）为核心的人工智能（AI）范式被提出，采用两个方法（即引导模型设计和二级测量）以增强模型的可解释性，弥补深度学习模型难以解释的不足。

    Mar, 2022

  • 可解释的机器学习 -- 简史、现状和挑战

    简述了解释性机器学习领域的发展历程，综述了最新的解释方法，讨论了挑战，提出了回归建模、基于规则的机器学习、敏感性分析、因果推断和社会科学等领域的启示。

    Oct, 2020

  • 可解释的机器学习：基本原则和 10 大挑战

    本文旨在提供可解释机器学习的基本原则，解决常见误解，并识别了十个技术挑战领域，包括稀疏逻辑模型、神经网络中的监督和非监督可分离性、增强学习的解释性等。此次调查适用于对可解释机器学习感兴趣的统计学家和计算机科学家。

    Mar, 2021

  • 人工智能模型语义可解释性

    本研究从广阔的角度观察模型可解释性，超越了机器学习的范畴，涵盖了分布语义学和模糊逻辑等不同的人工智能领域。我们根据模型的性质和它们引入可解释性方面的方法进行分类，并分析每种方法如何影响最终用户。同时指出还需要解决的问题，以提供更以人为本的解释性解决方案。

    Jul, 2019

  • OMNI：基于人类有趣概念模型的开放性问题解决方案

    利用基于语言模型的有趣性模型（MoI）改进无止境机器学习，集中于可学习且有趣的任务，实现自我优化和自我生成算法。

    Jun, 2023