分析过敏的 AI：企业级机器学习中的不稳定性

IJCAIJul, 2018

分析过敏的 AI：企业级机器学习中的不稳定性

Analyzing Hypersensitive AI: Instability in Corporate-Scale Machine Learning

Michaela Regneri, Malte Hoffmann, Jurij Kost, Niklas Pietsch, Timo Schulz...

TL;DR本研究关注于应用预测几何模型于机器学习中时所面临的稳定性和方差问题，并通过分析诸如单个数据点、逼近方法和参数设置等特征对基于 word2vec 的推荐系统几何模型进行调整和优化，以实现对大规模数据点的信息价值检测。

Abstract

predictive geometric models deliver excellent results for many Machine Learning use cases. Despite their undoubted performance, neural predictive algorithms can show unexpected degrees of instability and variance, particularly when applied to large datasets. We present an approach to m

predictive geometric models neural predictive algorithms recommender system data points informational value

发现论文，激发创造

深度神经网络中局部不稳定性的测量和缓解

通过研究模型在训练过程中的随机性，我们发现在自然语言理解任务中，模型的预测结果的不稳定性会对一部分查询产生影响，提出了一种衡量稳定性现象的方法 —— 标签熵，我们研究了数据不可知的正则化方法和新的数据中心方法，发现它已在计算成本的分数中取得了 90% 的性能优势以及金标准的表现。

May, 2023

使用深度学习的临床风险分层模型不稳定性

研究了在电子健康记录上训练不同模型的稳定性，证明相同模型在相同训练数据上的重复训练会产生显著不同的结果，并提出了衡量模型的稳定性和提高模型稳定性的应对策略。

Nov, 2022

理解词嵌入的下游不稳定性

对现代自然语言处理管道的核心构建块 —— 预训练词嵌入的稳定性进行深入研究，通过提出新的嵌入不稳定性度量来解释模型训练的不稳定性，并提出提高嵌入存储大小以达到降低不稳定性的稳定性 - 内存权衡。

Feb, 2020

针对提升隐私保护的机器学习稳定性技术的新型综述

研究了提高模型稳定性的各种技术，从而最小化机器学习中隐私化的负面影响。

May, 2024

连续数据更新下的模型稳定性

本研究探讨了机器学习模型的稳定性问题，提出了评估模型稳定性的方法，并发现网络架构和输入表示等模型设计选择对稳定性有重大影响，推荐在进行建模选择时考虑准确性和抖动之间的权衡。

Jan, 2022

人工神经网络稳健训练的分析框架

该研究论文提出了一种正式框架以研究机器学习中敌对示例现象，并利用复分析和全纯性提出了一种针对人工神经网络的稳健学习规则，揭示了该现象与调和函数的联系，并能够解释敌对示例的许多特征，包括可转移性，并为缓解敌对示例的影响铺平道路。

May, 2022

技术笔记：偏置与稳定性的量化

研究机器学习算法偏差对预测精度的影响时，应考虑稳定性因素，本文提出了一种基于概念一致性的稳定性度量方法，讨论了稳定性、预测精度和偏差之间的关系。

Dec, 2002

面向稳定的机器学习模型再训练：通过缓变序列实现

通过使用混合整数优化算法，在重新训练机器学习模型时考虑到不同数据批次更新的稳定性，通过使用自定义的距离度量指标来实现保持一致的分析洞察力，并在一个真实的生产案例中展示出比贪婪训练模型更强的稳定性。重要的分析洞察力在重新训练迭代中保持一致。

Mar, 2024

关于迭代重新训练生成模型的稳定性

本文开发了一个框架，以严格研究在混合数据集（包括真实和合成数据）上训练生成模型对它们的稳定性的影响。通过在 CIFAR10 和 FFHQ 上迭代训练常规流和最先进的扩散模型，我们在合成和自然图像上经验验证了我们的理论。

Sep, 2023

机器学习集成中的预测不稳定性

在机器学习集成中，多个模型的预测被汇总。本文证明了一个定理，表明任何集成模型都会展现出至少一种形式的预测不稳定性，从而需要在信息利用的好处和预测不稳定性的风险之间取得平衡。该分析还揭示了特定集成算法所产生的预测不稳定性的形式，例如像随机森林或 xgboost 这样的流行树集成算法将违反基本的、直观的单调性和公平性属性。

Jul, 2024