Aug, 2024

人工智能研究不是魔法，必须可重复和负责任：来自博士生视角的人工智能领域挑战

HTML
PDF
TL;DR本研究关注欧洲人工智能博士生在研究中面临的挑战，调查了13个欧洲国家的28名AI博士候选人。研究发现，学生在数据集和实验资源的可获取性、复制实验的困难以及可信度和跨学科合作不足等方面遇到了挑战，急需采取负责任和可重复的研究实践，以提升AI研究的质量和可信度。
发现论文，激发创造
  • 通过可复制性教授人工智能公正性、问责性、保密性和透明度

    本文介绍了阿姆斯特丹大学关于应用可重现性来教授公正、问责、机密和透明的人工智能课程，通过学生论文组和竞赛的形式，将理论和实践知识有机结合，并提出了相关授课指导方针。

    Nov, 2021

  • 机器学习的可重复性: 术语、建议和开放问题

    本文回顾了当前关于Artificial Intelligence的可重复性的文献，并强调了未解决的问题。作者提出了一些建议来提高模型重复性，特别是涉及生物医学和物理人工智能领域的问题。

    Feb, 2023

  • 人工智能数据丰富化的伦理模棱两可性: 评估研究伦理规范和实践中的差距

    本研究探讨人工智能领域的伦理规范问题，发现虽然现有的一些AI会议和出版物已经开始确立人类数据收集的协议和规范，但是这些规范往往被作者忽视，相比之下，在心理学领域进行与众包工人的合作时，生活方式和其他信息的道德审查披露要频繁得多。

    Jun, 2023

  • 机器学习驱动研究的可重现性

    面对研究的可重复性危机，机器学习和人工智能研究也面临同样的问题。虽然研究社区已经提出了不同的解决方案如使用机器学习平台，但机器学习驱动的研究的可重复性水平并没有显著提高。本文通过综述相关文献，讨论机器学习驱动研究中的可重复性问题和障碍，并探索工具、实践和干预等潜在驱动因素，提供对于支持机器学习可重复性的不同解决方案可行性的决策支持。

    Jul, 2023

  • 探索科学研究的负责任人工智能：一项实证研究

    本文研究了科学研究机构在负责人工智能设计和开发中的道德风险意识和准备情况，揭示了知识缺口和对可用人工智能伦理框架的意识有限。我们的研究结果显示，在没有适当的指导和管理下实施人工智能技术可能会带来潜在的道德风险，因此需要全面的策略来提高团队能力，支持负责、道德和包容的人工智能开发和部署。

    Dec, 2023

  • 从模型性能到声明：机器学习可复现性的焦点转变如何帮助弥合责任鸿沟

    通过将模型性能可复制性转变为主张可复制性，可以使机器学习科学家对产生不可复制的主张负责并对其造成的滥用和误解负责，从而缩小责任差距。

    Apr, 2024

  • 研究中生成AI的负责任使用的大学框架

    通过借鉴澳大利亚两所大学的经验，本文提出了一个框架，以帮助研究机构促进和促使生成性人工智能的负责任使用。此框架目的在于将复杂的监管环境转化为基于原则的立场声明，并为培训、沟通、基础设施和流程变革提供指导。此论文强调了研究机构在这一领域采取行动的紧迫性，并建议了一个实用且可适应的框架。

    Apr, 2024

  • 机器学习研究中的可重复性：概述、障碍和推动因素

    我们讨论了机器学习驱动研究的可重复性问题，包括了障碍和驱动因素，旨在为决策制定提供有关采用不同解决方案支持机器学习可重复性的见解和贡献。

    Jun, 2024

  • 人工智能与机器学习研究中的可重复性是什么？

    在人工智能（AI）和机器学习（ML）这个快速发展的领域中，再现性危机突显出需要清晰的验证方法论以保持科技完整性并促进进步的紧迫性。作为应对挑战，我们引入了一个验证框架，明确了关键验证工作的角色和定义，包括可重复性、依赖和独立再现性以及直接和概念可复制性。这个结构化框架旨在为AI/ML研究人员提供有关这些基本概念的必要明晰度，从而促进适当的验证研究设计、实施和解释。通过阐明每种类型验证研究的细微差别和特定角色，我们希望为更加深入和有系统地应对再现性挑战的方法贡献力量，从而支持社区努力提高其研究结果的可靠性和可信度。

    Apr, 2024

  • 开放生成模型在以人为本的数据科学工作中的影响：以事实核查组织为案例研究

    本研究探讨了开放生成模型在事实核查组织数据科学流程中的应用，关注其在重复性和公正性方面的挑战。通过对24名专业人士的访谈，提出了生成AI在数据处理中的五个组成部分的概念模型，并揭示了组织对开放模型和专有模型使用的动机及限制。研究结果为了解生成AI在社会中的影响提供了新的视角。

    Aug, 2024