Feb, 2023

高等教育决策中算法的人本评估

PDF
TL;DR本文对高等教育中决策制定算法进行了系统性的综述，发现这些算法趋向于深度学习和对学生的个人数据和受保护属性的使用，但当前算法的发展普遍缺乏以人为中心的理论，参与式或推测性设计，并探讨了这些趋势所带来的挑战，主张采用以人为中心的方法。
algorithmsdecision-makinghigher educationdeep learninghuman-centered approach
发现论文，激发创造
  • 这不是一个数据问题”：算法与权力在加拿大公立高等教育中的作用

    对加拿大安大略省一所公立学院的数据和算法使用进行深入的民族志案例研究，发现算法决策的日益依赖导致了学生监控的增加、现有不公平现象的加剧以及教师 - 学生关系的自动化，并且识别到算法决策带来的增加机构权力的循环，由财务可持续性推动。

    Mar, 2024

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 算法决策中公平和透明的人本视角

    该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

    Apr, 2022

  • 教育中的算法公平性

    介绍算法公平性在教育中的应用，关注预测模型、偏见和歧视，给出了在教育技术中如何促进算法公正性的方针建议。

    Jul, 2020

  • 机器决策与人类后果

    本文探讨了机器学习如何工作以及如何制定公正和负责任的算法，重点考虑了在刑事司法系统中执行决策的案例，并对 HART 作为现实世界分类器的技术特征进行了说明和四个规范基准进行了评估。

    Nov, 2018

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 使用算法引导人类决策制定者：决策的辅助器还是控制器？

    本文探讨了一种学习人类决策者并提供 “个性化推荐” 以控制最终决策的决策辅助算法，分析了如何达到最终决策的完美控制条件，并讨论了算法的潜在应用及其社会影响。

    Mar, 2023

  • 以人为中心的多模态机器学习：人工智能招聘的最新进展及实验平台

    本文提出了基于人性化的 AI 机器学习需满足四个主要要求：效用和社会效益，隐私和数据所有权，透明度和问责制以及人工智能决策过程公平性。通过使用自然合成个人资料，该研究展示了当前基于多种信息源的模式的算法是如何受到敏感因素和内在偏见的影响，以及这将如何导致决策失公平性。同时，论文介绍了最近的技术和常用数据库，以消除深度学习结构中的偏见和敏感信息。

    Feb, 2023

  • 大数据、数据科学与公民权利

    数据分析和算法决策越来越影响我们生活的各个方面，因此有必要确保它们不成为歧视，不公平，社会正义和不公平源泉的工具。本文提出了一个明确的研究议程，旨在解决这些问题。重点包括：确定模型是否存在偏见，将公平意识纳入机器学习方法中，提高数据驱动和模型驱动决策的透明度和控制以及支持跨学科研究来解决这些问题

    Jun, 2017

  • 算法追索综述：定义、公式、解决方案及展望

    本文研究了机器学习中的算法回溯问题，在考虑了精度和鲁棒性之外，提出应当考虑公平、隐私、责任和可解释性等价值观，并对相关文献进行了全面审视，提出了一些解决方案。同时，作者还为该领域的研究方向提供了一些新的视角和方向，挑战了一些关于安全、隐私和公平性方面的假设。

    Oct, 2020