Jul, 2022

AI 模型 FAIR 原则在加速高能衍射显微技术中的实际应用

PDF
TL;DR介绍了一套实用、简单、可衡量的 FAIR 准则，用于 AI 模型的数据管理和保存；展示了一个领域无关的计算框架，其中包含了 Advanced Photon Source、Materials Data Facility、Data and Learning Hub for Science、funcX 和 Argonne Leadership Computing Facility (ALCF) 等元素，以期在 AI 驱动的自主发现方面发挥作用。
fair principlesscientific dataartificial intelligencedata managementautonomous discovery
发现论文，激发创造
  • AI 的 FAIR：跨学科、跨国际、包容和多样化的社群建设视角

    本文讨论了 FAIR 准则在数据管理、数字资产、人工智能模型等领域的应用和实践，以及一些领先科研人员在其社区实践中推广和采纳 FAIR 准则的构想和经历。

    Sep, 2022

  • 一个 FAIR 和 AI-ready 的 Higgs 粒子衰变数据集

    本篇文章提供了一个无领域的、分步骤的评估指南，以评估一个给定的数据集是否符合数据和人工智能模型的可发现性、可访问性、互操作性和可重复使用性（FAIR）原则。我们演示如何使用此指南评估 CERN 大型强子对撞机 CMS 协作组制作的开放模拟数据集的 FAIR 程度。本篇研究是计划中一系列文章的第一篇，旨在指导科学家创建高能粒子物理学领域中的 FAIR AI 模型和数据集。

    Aug, 2021

  • Deriva-ML: 一种连续的 FAIRness 方法用于可重复机器学习模型

    提出了一种基于 FAIR 原则的数据管理工具架构和实现，通过两个案例展示了如何利用这些工具提高基于机器学习的科学研究的质量。

    Jun, 2024

  • FAIR Enough: 如何为大型语言模型的训练开发和评估符合 FAIR 标准的数据集？

    大型语言模型（LLMs）中的进展凸显了道德实践和数据完整性的必要性。我们介绍了一个将 FAIR（可发现、可访问、可互操作、可重用）数据原则嵌入到 LLM 训练中的框架。这种方法标志着向符合 FAIR 标准的实践的转变。我们的框架提出了将 FAIR 数据原则整合到 LLM 训练中的指导方针。这一倡议包括研究人员和开发人员的检查清单。我们还通过一个案例研究展示了其实际应用，重点是在符合 FAIR 原则的数据集中识别和减轻偏见。这项工作是对人工智能伦理和数据科学的重要贡献，倡导在 LLMs 中采用平衡和道德的培训方法。

    Jan, 2024

  • SimFair: 基于模拟模型的物理引导公平感知学习

    使用物理引导的公平感知学习框架 SimFair，整合基于物理规律的模拟和逆向建模来解决仅有有限数据样本新区域的困境，进一步提高了公平性保护的效果。

    Jan, 2024

  • 医学影像公平性基准测试

    该研究介绍了 MEDFAIR 框架，可以用于医学成像机器学习模型的公平性评估和算法的基准测试，通过实验发现模型选择标准可以对公平性结果产生重要影响，并在不同的应用场景和伦理原则下提供了建议。

    Oct, 2022

  • AI 实践中的公平性

    AI Fairness 领域存在多种理解和多样化的公平概念，对此，本文提出了一种基于上下文和以社会为中心的方法来帮助项目团队更好地识别、减轻和处理人工智能项目流程中出现的不公平偏见和歧视，并讨论了如何通过自我评估、风险管理和公平准则的文档化来实现 AI 公平原则。

    Feb, 2024

  • AI 公正：从原则到实践

    本文总结和评估了追求人工智能系统公正性的各种方法和技术，提出了定义、衡量和预防人工智能偏见的实用指南，并针对评估人工智能系统偏见的一些简单但常见方法提出了更为复杂和有效的替代方案。此外它还提供了一个共同的语言来解决领域内普遍存在的争议和混乱。它描述了涉及人工智能公正性的各种权衡，并提供了实用建议来平衡这些权衡。本文提供了关于人工智能从业者、组织领导、政策制定者的讨论和指南，以及为技术观众提供更多相关资料的链接。通过举例清晰阐述了本文中所提到的概念、挑战和建议。

    Jul, 2022

  • 立足于 FURM 框架之上 —— 评估医疗系统中公平、有用和可靠的 AI 模型

    使用人工智能（AI）指导患者护理或操作过程的影响是 AI 模型输出、基于该输出的决策制定协议以及参与方采取必要后续行动的相互作用。斯坦福医疗保健的数据科学团队开发了一种 “公平、有用和可靠 AI 模型（FURM）” 的机制，通过进行伦理审查来识别潜在的价值不匹配，通过模拟估计有用性，通过财务预测评估可持续性，以及通过分析来确定 IT 的可行性，设计部署策略，并推荐前瞻性的监测和评估计划，从而实现在部署之前估计其影响效果，以及在实时研究其影响效果。我们报道了对六个 AI 模型指导解决方案进行的 FURM 评估，以评估其潜在采用性的过程，涵盖临床和操作设置，每年可能影响数十个到数万个患者。我们描述了评估过程，总结了这六个评估，并分享了我们的框架，以使他人能够进行类似的评估。在我们评估的六个方案中，有两个已进入规划和实施阶段。我们的创新贡献，包括模拟估计的有用性、量化可持续性的财务预测以及进行伦理评估的过程，以及底层方法和开源工具，可供其他医疗保健系统进行可行的候选 AI 解决方案评估。

    Feb, 2024

  • MLC 数据的 FAIR 化

    本文介绍了一种基于本体的多标签分类（MLC）数据集在线目录和性能评估查询系统，以便遵循 FAIR 和 TRUST 原则以保证合适、正确、强大和值得信赖的基准测试。

    Nov, 2022