Mar, 2024

人工智能中的规范过拟合

PDF
TL;DR机器学习和人工智能方法常常因其固有偏见以及缺乏控制、问责和透明性而受到批评，因此，监管机构在控制这种技术潜在负面效应方面存在困难。本文定义了规范过拟合，即系统过度关注具体度量而忽视高级要求和任务性能的情况。我们在几个人工智能领域（如自然语言处理、计算机视觉、强化学习）进行了广泛的文献调查，对研究人员如何提出、衡量和优化规范度量进行了分类。通过对 2018 年至 2023 年年中的主要人工智能会议和期刊的论文进行基于关键字的搜索，我们发现并分析了 74 篇提出或优化规范度量的论文。虽然大多数论文隐含地解决了规范过拟合问题（例如，通过报告多个规范度量），但它们很少讨论规范度量在系统开发中应该起到的作用，也很少明确规范度量公式的范围和假设。
machine learningartificial intelligencespecification metricsspecification overfittingsystem development
发现论文，激发创造
  • 指标问题是人工智能的根本问题

    通过真实案例研究，本文探讨了当前 AI 方法中度量标准的错误使用导致的负面后果，并倡导使用多个度量标准，结合定性分析，并涉及各种利益相关者，以减轻度量标准重视过度造成的伤害。

    Feb, 2020

  • 目标错误泛化：为什么正确的规范并不足以达成正确的目标

    该研究主要讨论 AI 系统可能在追求不期而至的目标时出现的问题，如规定游戏和目标误化，并提出几个研究方向以减少这些问题带来的灾难风险。

    Oct, 2022

  • 预测并非理解：识别和解决机器学习中的不完备性

    提出了一种使用独立性约束和数据流形对机器学习模型进行优化，以发现远离分布数据和具有良好预测性能的模型的方法，并讨论了模型选择的相关问题。

    Jul, 2022

  • 目标规范偏差、反事实预测和医疗算法公平性

    机器学习在医疗保健中的偏见通常源于代表性或不完整的数据，以及潜在的健康差异。本文发现了影响机器学习预测工具的临床实用性的更普遍的偏见来源：目标规范偏见。目标规范偏见发生在目标变量的操作化与决策者对其定义的不匹配时，这种不匹配常常是微妙的，源于决策者通常对反事实的医疗场景的预测结果感兴趣，而不是实际情况。目标规范偏见独立于数据限制和健康差异。如果不进行修正，它会导致预测准确度的高估，医疗资源的低效利用以及对患者有害的次优决策。计量学中的最新研究提出了抵消目标规范偏见的方法，并避免其有害后果。

    Aug, 2023

  • 揭开机器学习驱动科学中的过度乐观和出版偏见

    通过研究机器学习中的数据泄露和出版偏见等因素，本研究提出了一种新颖的随机模型来估计真实准确性，并纠正了过度乐观的诊断结果，从而提供了更真实的机器学习性能评估。

    May, 2024

  • 人工智能基准创建和饱和的全球动态映射

    人工智能的基准测试至关重要，但过度适应、饱和以及数据集集中化等问题已引起人们的关注。我们提出了一种方法来创建全球基准测试创作和饱和的简化地图，其中包括覆盖计算机视觉和自然语言处理的 3765 个基准测试的数据。我们发现许多基准测试很快趋于饱和，而其他一些则无法得到广泛利用。未来的基准测试应强调多功能性、广度和实用性。

    Mar, 2022

  • 机器学习预测的局部和全局可解释度度量

    本文提供了一种新颖的量化指标框架，用于解释分类器和回归模型的预测结果，旨在提高人工智能系统的透明度和可信度。应用公开数据集，展示了这些指标如何更全面地理解模型预测，并在决策者和利益相关者之间促进更好的沟通，从而增加人工智能系统的整体透明度和问责度。

    Feb, 2023

  • 现代机器学习中的欠规范性对可信度的挑战

    本文发现欠规范是 ML 模型在实际领域应用中展现出意外糟糕行为的一个重要原因。作者使用计算机视觉、医学成像、自然语言处理、基于电子健康记录的临床风险预测以及医学遗传学的示例来证明在实践中出现的问题。因此，本文的结果表明需要在任何领域中的建模管道中显式地考虑欠规范。

    Nov, 2020

  • 机器学习系统的质量管理

    本文提出了一个基于现有进展的全面质量管理框架视角，并确定了软件工程研究的新领域，以实现更可靠的人工智能。

    Jun, 2020

  • 机器学习模型中的偏见和不公平性：系统性文献综述

    本研究旨在检查现有知识中关于机器学习模型中的偏见和不公平的研究，并识别减弱算法不公平和偏差的方法、公平性度量和支持工具。经过系统文献综述，发现了 40 篇可用于 Scopus、IEEE Xplore, Web of Science 和 Google Scholar 知识库的文章。结果表明，针对 ML 技术的多种偏见和不公平检测与减轻方法，在文献中定义了明确的度量标准，可以突出不同的度量标准。因此建议进一步研究，以定义在每种情况下应采用的技术和指标，以标准化并确保机器学习模型的公正性，从而允许最适当的度量标准来检测偏见和不公平。

    Feb, 2022