Jun, 2024

教育测量中人工智能的崛起：机遇与伦理挑战

PDF
TL;DR人工智能在教育测量中的整合革命了评估方法，通过机器学习和自然语言处理实现了自动化评分、快速内容分析和个性化反馈，为学生提供及时、一致的反馈和宝贵的学业表现洞察，从而增强了评估体验。然而，将人工智能应用于教育也带来了诸多伦理关切，涉及到有效性、可靠性、透明度、公平性和公正性等问题。算法偏倚和人工智能决策过程的不透明性等问题可能会将不平等问题持续下去并影响评估结果。为了应对这些关切，包括教育工作者、决策者和组织在内的各方利益相关者已制定了指南，以确保人工智能在教育中的道德使用。美国教育测量学会（NCME）的 AI 与教育测量特别兴趣小组（AIME）也致力于确立道德标准并推动该领域的研究。本文中，来自 AIME 成员的多样化团队审视了人工智能驱动教育测量工具的伦理影响，探讨了自动化偏倚和环境影响等重大挑战，并提出了解决方案，以确保人工智能在教育中的负责任和有效使用。
发现论文，激发创造
  • 教育领域中人工智能的伦理

    人工智能从实验室科学转变为实际人类环境，引发了许多历史、社会文化的偏见、不平等和道德困境。人工智能教育（AIED）提出了更多特定的挑战，涉及技术对用户的影响，这些技术如何用于加强或改变我们学习和教学的方式，以及作为社会和个体，我们对教育结果的价值观。该文章讨论了人工智能的关键伦理维度，并将其置于 AIED 设计和工程实践中，以建立我们所构建的 AIED 系统、我们提出的有关人类学习和发展的问题、我们使用的教学伦理以及我们通过 AIED 在更广泛的社会技术系统中提倡的价值观之间的联系。

    Mar, 2024

  • 人工智能教育公平性挑战和需求专家观点

    本研究通过采用匿名调查和专家面谈的方式研究了如何在教育人工智能应用程序的开发过程中考虑公平性的挑战和需求，以及对数据挖掘和机器学习的推动作用，为实现更公平的教育人工智能应用程序提出了具体方向。

    Jun, 2022

  • 从算法崇拜到人类学习的艺术：AI 在教育领域 50 年旅程中的见解

    本文探讨人工智能在教育领域的复杂性及对学习的个性化、伦理、学科价值与学习体验的潜在影响，旨在通过教育研究和综合实证最佳实践，明确了解如何将人工智能技术与学与教的基本原则相协调，以及为未来真正提升学习体验和结果而可能需要优先考虑的具体行动。

    Feb, 2024

  • 引领生成人工智能时代：介绍道德生成人工智能评估的 AI 评估尺度

    近年来，生成人工智能（GenAI）的发展在社会多个领域引起了一次范式转变，而这些技术的使用可能成为未来几十年教育的一个定义性特征。GenAI 提供了变革性的教育机会，同时也带来了伦理和学术方面的挑战。在这个背景下，我们提出了一个实用、简单且足够全面的工具来将 GenAI 工具融入教育评估中：AI 评估量表（AIAS）。AIAS 使教育工作者能够根据他们希望解决的学习成果选择适当的 GenAI 使用水平进行评估。AIAS 为学生和教育工作者提供了更清晰、更透明的方式，为机构提供了公平、公正的政策工具，并提供了一种细致入微的方法，既拥抱了 GenAI 的机会，又意识到在某些情况下这样的工具可能在教学上不合适或不必要。通过采用一种实用、灵活、可快速实施的方法，AIAS 可以成为应对当前关于教育中的 GenAI 存在的不确定性和焦虑的迫切起点。作为次要目标，我们参与当前的文献研究，倡导关注 GenAI 教育工具的重新聚焦的讨论，突出技术如何帮助支持和增强教学和学习，与当前关注 GenAI 作为学术不端行为便利工具的焦点形成对比。

    Dec, 2023

  • 人工智能与机器学习用于下一代科学评估

    本文着重探讨人工智能（AI）和机器学习（ML）在科学评估中的转变作用，强调科学评估需要从概念学习转向知识运用，并介绍了基于 ML 的科学评估的现状、准确性评分框架以及未来方向和挑战。

    Apr, 2024

  • 评估人工智能影响评估：一项课堂研究

    通过课堂调查研究，作者发现 AI 影响评估（AIIAs）对参与者对生成型人工智能系统的潜在风险以及 AI 专家在解决潜在危害中所承担责任的感知具有影响，并对现有的 AIIA 工具进行了限制性分析，提出了未来发展和验证 AIIAs 的建议。

    Nov, 2023

  • 用心理测量评估通用人工智能

    人工智能（AI）从任务特定到通用系统的发展，逐渐趋向于与人类的多样性。为了确保 AI 系统得到充分的评估，本文建议将心理测量学作为评估通用 AI 的核心，并提出相应的框架。

    Oct, 2023

  • 人工智能伦理教育在网络安全中的挑战与机遇：一个焦点小组报告

    AI 工具在网络安全领域的出现带来了诸多机遇和不确定性。一项针对网络安全领域高级研究生的焦点小组讨论揭示了挑战和机遇的潜在深度和广度。主要问题包括获取开源或免费工具、文件文献、课程多样性以及明确的人工智能网络安全教育伦理原则的表达。解决 “黑匣子” 思维在人工智能网络安全工作中的问题至关重要，同时还需要更加深入和优先教授基础人工智能知识。系统思维和有效沟通也被认为是教育改进的相关领域。未来的人工智能教育家和从业者需要通过实施严格的技术培训课程、明确的文件文献和用于伦理监控人工智能的框架，结合批判性思维和系统思维和沟通技巧来解决这些问题。

    Nov, 2023

  • AI 在教育中的黑盒子拆解

    本文介绍了人工智能的不同方法和哲学，探讨了其在教育领域中的应用，以及涉及到的关键的限制和风险，并提出了在遇到人工智能时教育工作者可能会问的一系列问题，旨在使术语和概念易于理解、审视和塑造人类中心的教育人工智能的发展。

    Dec, 2022

  • 人工智能可持续性研究综述：学习算法的新兴趋势和研究挑战

    本文着眼于 AI 的可持续性发展问题，分析了解决该问题的机器学习方法和算法，并提出对可持续 AI 技术研究的挑战和发展方向的建议。

    May, 2022