AAAINov, 2021

本地司法与算法分配社会资源

PDF
TL;DR该论文介绍了 AI 技术在资源分配方面的应用，讨论了如何在政治哲学的指导下设计这些系统的目标，以实现公平、效率、激励兼容性和利益相关者偏好的满意聚合，并探讨了数据万物互连时代下，算法可预测未来为我们带来的机遇和风险。
aidecision-makingresource allocationfairnesspolitical philosophy
发现论文，激发创造
  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 非洲卫生保健人工智能中的正义

    人工智能在改善医疗服务和患者结局方面变得至关重要，但其发展和使用引发了众多伦理、法律和社会经济问题，其中正义是一个主要关注点，该论文讨论了与之相关的团结性、公共利益、可持续性、人工智能偏见和公平性等概念，为非洲地区公平发展人工智能医疗提出了特定背景下的考虑。

    Jun, 2024

  • AI 公平性与效用的联合优化：以人为本的方法

    本文提出了一种用于优化 AI 模型的框架和一些示例方法，根据人类政策制定者的偏好来平衡公平性、模型准确性等目标之间的平衡，以此来减少偏差和不公平。

    Feb, 2020

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 人工智能中的公平以及对社会的长期影响

    本文讨论了在人工智能中缺乏公平性可能导致偏见加深和社会压力的问题，评估了当前改善 AI 公平性的策略并探索了未来的潜在路径。

    Apr, 2023

  • 社会责任型人工智能算法：问题、目标和挑战

    本文介绍了开发 Socially Responsible AI Algorithms 框架的意义和方法来实现人工智能的可信赖，从而提高人类社会的福祉。

    Jan, 2021

  • 高风险公共部门决策中算法支持的公平性与问责设计需求

    通过对 5 个经济合作与发展组织国家的 27 名公共部门机器学习从业者进行访谈，本文探讨了在算法决策应用，如税收、司法和儿童保护中如何理解和注入公共价值观。结果显示出在当前可用、透明和 “区分度感知” 的机器学习研究中，缺乏组织和机构现实、限制和需求，存在设计机会，如支持次要数据来源中概念漂移的追踪和构建可用的透明度工具，以识别风险并整合领域知识，旨在支持管理人员和公共服务的 “一线官僚”。我们最后概述了这些高风险应用中的伦理挑战和未来合作方向。

    Feb, 2018

  • 社会技术系统中降低学习算法歧视以促进社会公益

    通过使用贝叶斯优化算法，解决了智慧出行倡议中机器学习算法所带来的社会不平等问题。

    Nov, 2020

  • 医疗保健人工智能中的算法公正性

    这篇综述论文概述了高科技医疗领域中人工智能系统的算法公正性问题，阐述了当前临床工作流程中算法偏见（如图像采集，基因变异，内观者标记变异性等）导致的不公平医疗差距并探讨了联邦学习、分离和模型解释等新兴技术在 AI-SaMD 发展中的作用。

    Oct, 2021

  • 算法决策政策的长期影响：通过社会学习的努力不公和特征隔离

    该研究提出了一种算法公平的努力程度量度标准，并提出了一种数据驱动框架，用于表征算法政策对重塑基础人口的长期影响。

    Mar, 2019