机器学习中的价值观学科转变
通过研究高度引用的机器学习论文,本文发现只有少数论文能够说明其与社会需要的联系,而且更少讨论负面潜力。同时,本文还发现,机器学习研究中经常突出强调的几个价值观,如性能、泛化、量化证据、效率、建立在过去的工作基础之上和创新性等,往往在支持权力集中方面存在着假设和影响。最后,作者发现高度引用的论文越来越多地与科技公司和精英大学有着紧密的联系。
Jun, 2021
本文指出机器学习模型在组织或社会环境中的应用为人们提供价值,因此应该重新评估和选择模型。同时,强调了学习和评估中的价值观念应该起到至关重要的作用,并且不同的模型需要在不同的应用环境中学习和提供不同的价值。最后,提出了这种新的视角和方法对实验数据和人类工作流嵌入模型的影响。
Sep, 2022
本文采用结构化和主题内容分析研究了计算机视觉数据集的文档记录,强调了计算机视觉数据集作者重视效率、普遍性、客观性和模型工作的做法,而这些做法与社交计算实践相矛盾。研究人员提出了在数据集创建和管理过程中更好地融入这些价值观的建议。
Aug, 2021
本研究探讨了机器学习应用于决策过程中的异质性,提出了价值观、文化和法规、数据组成以及资源和基础设施能力三个因素对 ML 产品轨迹的影响,并强调了需要联合考虑和解决这些因素的必要性。
Jun, 2023
机器学习(ML)在各个科学领域产生了巨大的影响,然而,ML 具有强大的本体论和认识论,在自然科学中与标准实践和关键哲学观念存在强烈冲突。本文识别了 ML 在自然科学中的一些有价值的应用领域,如使用表达能力强的机器学习模型进行因果推断来表示混淆因素的影响。此外,我们还展示了引入 ML 会引起强烈的、不希望的统计偏差的情况,例如,当 ML 模型用于模拟物理(或基于原理)时,会引入强烈的确认偏差。因此,我们呼吁科学界退后一步,考虑 ML 在各自领域中的作用和价值。
May, 2024