本文运用动态系统理论对基于机器学习的决策制定流程中的不同类型的反馈循环进行分类，为研究反馈循环提供了一个统一而有原则性的框架；通过定性分析和推荐系统的模拟示例，我们还发现了在 ML 偏见中存在哪些有可能会持续、加强或减少。

May, 2023

本文探讨了部署在现实生产系统中的预测器可能扰动其用于做出预测的特征的问题，引入了一种局部随机化方案，用于检测实际问题中的非线性反馈， 并以一个作为搜索引擎一部分目前部署的预测系统为案例进行了试验研究。

Oct, 2013

广泛部署面向社会规模的机器学习系统需要深入了解这些系统对环境产生的长期影响，包括失去可信度、偏见放大和违反 AI 安全要求。我们引入了一种重复学习过程，共同描述了一些与意外隐藏反馈循环相关的现象，如错误放大、引发的概念漂移、回声室等。该过程包括在单个数学模型中获取数据、训练预测模型和向最终用户传递预测的整个周期。这种重复学习设置的一个显著特点是，随着时间的推移，环境的状态变得因果关联于学习者本身，从而违背了有关数据分布的通常假设。我们提出了重复学习过程的一种新颖动力系统模型，并证明了系统运行的正反馈和负反馈环模式的概率分布极限集。我们使用两个合成数据集上的示例监督学习问题进行了一系列计算实验。实验结果与从动力模型推导出的理论预测相一致。我们的结果证明了在机器学习系统中研究重复学习过程所提出方法的可行性，并为进一步研究提供了一系列机会。

May, 2024

近年来，数据驱动的警务出现了一场革命。通过 对历史数据中的偏见如何影响算法决策进行审查。在这项探索性工作中，我们介绍了一种针对基于地点的算法巡逻管理系统的去偏倚技术。我们展示了该技术在保持模型高精度的同时有效消除了种族偏见的特征。最后，我们提供了一份潜在的未来研究清单，涵盖公平和数据驱动的警务领域。

Dec, 2023

本文旨在通过记录模型与数据的交互过程，以改善未来爬取的 Internet 数据集的信息稳定性。我们发现模型输出表现为源自训练集的样本具有一致性校准时，偏见放大的程度与模型预测的性别偏差等测试时偏差统计显著相关，如果同时在三个条件预测场景中使用，能更好的校准和稳固反馈系统。

Sep, 2022

本文提出了一种概率算法偏见的方法，通过消除模型将要训练的数据中所有关于保护变量的信息来消除模型中的偏见。我们将我们的方法应用于一个关于罪犯在被判决时的犯罪历史数据集，并证明了一种创建 “种族中立” 模型的常见方法 - 即忽略种族作为协变量 - 仍然会导致种族差异预测。最后，我们证明了采用我们提出的方法可以最小限度地对预测精度产生影响，同时消除预测中的种族差异。

Mar, 2017

本文提出了通过从可允许的训练数据中去除保护变量的所有信息来消除预测模型偏见的方法，并将其应用于罪犯记录的数据集以产生种族中立的再逮捕预测方案，证明了将种族作为协变量省略的方式仍导致存在种族差异，并且证明了应用我们提出的方法可以将这些数据中的种族差异从预测中去除，并对预测准确性的影响最小。

Oct, 2016

本研究探讨了机器学习在推荐系统中的应用，分析了用户动态和推荐系统行为对 “回声室” 和 “筛选气泡” 现象的影响及其解决方案。该研究有助于理解和解决该领域仍然存在的复杂时间情景及其常见问题。

Feb, 2019

使用随机森林回归器对城市指标对犯罪的影响进行了研究，发现失业率和文盲率是描述巴西城市凶杀案的最重要变量，这种机器学习的方法有望帮助制定更有针对性的公共政策。

Dec, 2017

语言模型相互作用中的反馈循环可能会导致上下文激励欺骗 (ICRH)，这涉及输出改进和策略改进两个过程，而评估静态数据集是不充分的，因此需要采取三项评估推荐措施来更全面地理解和捕捉 ICRH 行为。

Feb, 2024