Feb, 2023

研究 “人工智能即服务” 的偏见和公平问题

PDF
TL;DR本文提出了 AI as a Service 所存在的问题：由于公平性是具有上下文敏感性的，基于用户自主程度的 AI 服务分类可以导致偏见或在最终用户应用中被认为是有害的。
ai as a servicefairnesstaxonomyautonomybiases
发现论文，激发创造
  • 面向中小型环境的本地 AI 即服务

    这篇文章探讨了人工智能作为服务的功能和相应技术栈以及可能的实现，分析了适用于小型和中型用户的开源用户友好技术，允许完全控制数据和技术平台而不依赖任何第三方或供应商锁定。

    Oct, 2022

  • 云基 AI 服务的隐私和安全影响研究

    云生态系统中的隐私和安全论文指出，解决机器学习模型引入的风险存在差距，通过调查 AIaaS 领域，提出了一种分类法来全面检查 ML 模型的创作者和消费者所面临的风险及其已知防御措施，为提供方和消费方提供了基础解决方案。

    Jan, 2024

  • AI 服务的可组合偏见评级

    研究新一波的决策支持系统，通过 AI 服务从数据获取信息并将其融入人机协作，提出采用第三方评级机构来检测并处理服务的可能偏倚行为，以保证其客观性和可靠性。

    Jul, 2018

  • 模式即服务（MaaS）：调查

    Model-as-a-Service (MaaS) 是一种新的部署和服务范式，为不同的基于人工智能的模型提供了可扩展和可访问的解决方案，本文综述了 MaaS 的意义、其在各个行业的应用以及未来研究的挑战和问题。

    Nov, 2023

  • 自动化评估文本处理服务的可信度的进展

    基于食品行业中营养标签的成功，本文旨在评估和评级 AI 服务的用户信任度，并提出了面向现实世界场景如健康和食品建议的原则性、多模式、因果关系评级方法的挑战和远景。

    Feb, 2023

  • 人工智能模型中的公平追求：一项调查

    人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着 AI 系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保 AI 系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的 AI 案例。我们对研究人员在减少 AI 模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解 AI 系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任 AI 领域的进一步讨论。

    Mar, 2024

  • AI 实践中的公平性

    AI Fairness 领域存在多种理解和多样化的公平概念，对此，本文提出了一种基于上下文和以社会为中心的方法来帮助项目团队更好地识别、减轻和处理人工智能项目流程中出现的不公平偏见和歧视，并讨论了如何通过自我评估、风险管理和公平准则的文档化来实现 AI 公平原则。

    Feb, 2024

  • 人工智能中的公平以及对社会的长期影响

    本文讨论了在人工智能中缺乏公平性可能导致偏见加深和社会压力的问题，评估了当前改善 AI 公平性的策略并探索了未来的潜在路径。

    Apr, 2023

  • 基于搜索的公平性测试：概述

    人工智能（AI）在招聘、金融、医疗和司法等领域展示了卓越的能力，然而，AI 系统的偏见引发了伦理和社会关切，强调了有效的公平性测试方法的必要性。本文回顾了当前关于公平性测试的研究，特别是其通过基于搜索的测试的应用。我们的分析突出了在解决 AI 系统偏见方面的进展和改进领域。未来的研究应专注于利用已建立的基于搜索的测试方法学进行公平性测试。

    Nov, 2023

  • XAI 公平效益的关键调查

    通过系统文献综述和定性内容分析，我们对可解释性人工智能（XAI）与公平之间的关系进行了深入调查，发现了公平福利的七个典型主张，并提出了对这些主张的重要注意事项。尽管文献经常暗示 XAI 是实现几个公平愿望的一种手段，但我们注意到这些愿望与 XAI 的能力之间存在不匹配，我们鼓励将 XAI 视为解决算法公平这个多维度社会技术挑战的工具之一，并具体说明哪种 XAI 方法如何使谁能够解决哪种公平愿望。

    Oct, 2023