- 通过道德和哲学原则确保可信赖的医疗人工智能
本文讨论了人工智能在医疗领域中的应用，特别是在医学图像分析中的最新进展、现有标准以及应用人工智能所需考虑的伦理问题和最佳实践。我们探讨了人工智能的技术挑战和伦理挑战，以及在医院和公共组织中部署人工智能的影响和关键技术措施。最后，我们提出了未 - 非正式对话 v2 数据集
本研究介绍了一个数据集，有助于评估算法偏见和计算机视觉和语音模型在 11 个属性方面的鲁棒性。数据集包括来自巴西、印度、印度尼西亚、墨西哥、越南、菲律宾和美国的 26,467 个视频。参与者同意将其数据用于评估 AI 模型的公平性并提供了多 - 公平守卫者：在智慧城市中运用基于逻辑的公平规则
本文介绍了一种名为 Fairguard 的 micro-level temporal logic-based 方法，用于提高智能城市政策的公平性，并证明了静态 Fairguard 能够有效减少存在的数据偏差，动态 Fairguard 能够保 - 机器学习新领域：MLOps 政策制定者指南
本论文通过对算法偏见的影响及其对边缘化人群的影响进行了探讨，详细介绍了如何在机器学习的生命周期中使用工具来识别可能被引入模型的偏见。
- Casual Conversations v2: 设计一个大型的基于同意的数据集，用于测量算法偏差和鲁棒性
本文提供了一个设计分类和子分类的方法，以便收集一个全面的数据集，以用于测试和开发鲁棒和公平的 AI 系统。
- 利用有限标注减轻算法偏差
本研究提出了一种互动式框架 APOD，它将歧视惩罚与主动实例选择相结合，旨在最大程度地消除算法偏差。在五个基准数据集上的评估结果表明，APOD 方法在有限的注释预算下优于现有基准方法，并显示出与完全注释的偏差缓解相当的性能。
- 推荐公正性：一项调查
这篇论文系统地概述了推荐系统公平性的研究现状和挑战，介绍了现有的公平性定义分类、公平性提高技术和用于公平研究的数据集。
- 领域自适应遇到个体公平，他们相处融洽
本文论述了算法公正与数据分布的关系，即算法公正干预可以帮助机器学习模型克服数据分布的偏差，并且领域自适应方法可以减轻算法偏差。
- 语言技术从业者作为语言管理者：在 ASR 中仲裁数据偏见和预测偏见
该研究论文采用语言政策视角，分析了当前工业训练和测试自动语音识别系统的做法如何导致数据偏见和算法偏见，进而导致系统误差差异，并提出将语言资源重新构建为（公共）基础设施的建议。
- 非 IID 图数据中的公平性：现状与未来方向
研究机器学习中的算法偏差和公平性的重要性已经导致公平性研究的增加，这通常假定底层数据是独立且分布相同的，但实际上，数据通常用非 IID 图结构表示，在非 IID 图数据中进行公平性研究对于弥合传统的 IID 数据所设计的公平性文献和现有工作 - 通过因果视角对虚假相关性降低信息论偏差
通过因果关系解释的虚假相关的条件互信息，我们提出了一种信息熵偏差测量技术，可以有效地识别基于特征的算法偏差，并设计了一种新颖的基于偏差正则化损失的去偏差框架和一种基于随机标签噪声的简单而有效的非监督去偏差技术。
- 测量两次，裁剪一次：量化深度神经网络中的偏差和公平性
本文提出了两个简单而有效的度量标准，Combined Error Variance (CEV) 和 Symmetric Distance Error (SDE)，以定量评估两个模型的类别偏差相对多少。 通过评估这些新指标的性能并展示它们的实 - 评估和减轻知识蒸馏中砍枝神经网络的偏差
本文提出了两种简单而有效的度量方法，CEV 和 SDE，以量化剪枝模型的偏差防御质量，并展示了知识蒸馏可以调和剪枝神经网络中的偏差。我们发现模型相似度与剪枝诱导的偏差之间存在强关联，这提供了一种强大的方法来解释为什么在剪枝神经网络中会发生偏 - ICLR个体公平梯度提升
该研究采用函数梯度下降法实现在梯度提升中的个体公平性问题，并证明了该算法在决策树等非平滑模型上的泛化性和有效性。
- 程序员偏见？还是数据偏见？实地实验对 AI 伦理进行操作化
评估了 400 个 AI 工程师开发的 820 万个算法预测的数学表现，发现不公正的预测主要是由不公正的训练数据引起的，并通过一种新的经济机制提高工程师的努力程度。此外，还发现预测误差在人口统计学群体内相关，创造了跨人口统计学平均化的性能改 - 强制执行公平是否可以减轻由子人群变化引起的偏见？
本文研究了在训练过程中强制实施算法公平性是否可以提高目标领域中训练模型的性能，并得出了一些结论。
- ICLR方向很重要：关于中等学习率的随机梯度下降的隐式偏差
本研究针对模型学习速率为中等并逐渐降低的情况，研究了 SGD 和 GD 在超参数调节中的常见行为，以此试图解决机器学习中的算法偏差问题，并得出了不同方向偏差可能导致最终预测结果差异的结论。
- 压缩模型偏差特征分析
该论文探讨了神经网络压缩技术所产生的 Compression Identified Exemplars（CIE）对算法偏差的影响，并提议将 CIE 作为人类审核工具，以检查数据集中最具挑战性的示例。
- MM推荐系统中流行度偏差、校准和公平性之间的关联
本研究考虑不同推荐算法对不同用户偏好的响应度进行测量，并揭示了算法中流行度偏差可能是导致推荐偏差的重要因素。两个真实数据集的实验结果表明，用户群体受到算法中流行度偏差程度与他们对流行物品的兴趣程度之间存在关联，并且受到算法中流行度偏差影响越 - 深度贝叶斯多臂赌博机：在线个性化推荐中的探索
本文提出了一种使用深度贝叶斯 Bandits 算法的广告推荐系统，其包含探索技术和上下文的特征，以解决推荐系统中的反馈循环问题和算法偏差。