学习优化的与门的或门

Nov, 2015

Learning Optimized Or's of And's

Tong Wang, Cynthia Rudin

TL;DR本研究使用基于优化的机器学习框架构建了 Or's of And's 模型，其中包括 Optimized OA (OOA) 和 Optimized OA with Approximations (OOAx) 两种方法，用于诊断阻塞性睡眠呼吸暂停症，这些模型不仅能够高准确性地识别睡眠暂停，同时更具解释性。

Abstract

Or's of And's (OA) models are comprised of a small number of disjunctions of conjunctions, also called disjunctive normal form. An example of an OA model is as follows: If ($x_1 = $ `blue' AND $x_2=$ `middle') OR ($x_1 = $ `yellow'), then predict $Y=1$, else predict $Y=0$. or's of and's model

or's of and's models optimized oa ooa ooax obstructive sleep apnea

发现论文，激发创造

学习可推广到分布外的模块化结构

本文提出一种针对机器学习系统中的 O.O.D. generalization 挑战的方法，通过训练鼓励模型仅保留在多个训练领域中被很好地重用的网络特征，结合两种互补的神经元级约束器和网络上的可微分二进制蒙版，提取模块化子网络以达到更好的 O.O.D. 性能。初步评估在两个基准数据集上证实了我们方法的优势。

Aug, 2022

构建数学结构以实现学习优化

本文提出了一种基于数学原理的 L2O 模型，通过数值模拟验证了该模型的理论发现并展示了其超越普通 L2O 模型的优越性。

May, 2023

不确定性下公平多目标优化的端到端学习

通过训练技术和应用设置，本文将 PtO 方法扩展到具有不可微分的有序加权平均目标的优化问题，展示了如何在不确定性下有效地将 OWA 函数优化与参数预测相结合，以实现公平和稳健的优化。

Feb, 2024

基于极值的图像分类异常检测方法：XOOD

本研究提出了一种基于极值的新型 OOD 检测框架 XOOD，包括两个算法：完全无监督的 XOOD-M 和自我监督的 XOOD-L，两者都依赖于神经网络中激活层数据的极值信号以区分内部分布和 OOD 实例。实验证明，XOOD-M 和 XOOD-L 在效率和准确性方面均优于现有的状态 - of-the-art OOD 检测方法，在降低误报率（FPR95）50％，同时将推理时间提高一个数量级。

Aug, 2022

代理预测优化：学习预测和优化的联合模型

从观测特征中通过预测模型直接学习最优解的方法被提出，该方法是泛化的，基于学习优化范式，能够提供高效、准确和灵活的解决方案给一系列具有挑战性的预测优化问题。

Nov, 2023

OpenOOD: 广义越界检测基准测试

本文提出了一个名为 OpenOOD 的统一的、结构化的代码库，该库实现了超过 30 种 ODD 检测方法，并在最近提出的一般化 OOD 检测框架下提供了全面的基准。作者通过对这些方法的全面比较发现，过去几年中，该领域取得了显著进展，其中预处理方法和正交后处理方法显示出很强的潜力。

Oct, 2022

关于超出分布泛化的理论框架

本文第一次尝试对 OOD 问题的可学习性和扩张函数进行严格和量化的定义，并引入了一个新的扩张函数概念来量化不变特征的方差程度，进而证明了 OOD 泛化误差界，实验证明我们的模型选择标准相比基线有显著优势。

Jun, 2021

在自然环境中训练 OOD 检测器

本文提出了一种基于野外混合数据的新颖框架，旨在改进在野外部署的机器学习模型的 OOD 检测能力，通过最大化 OOD 检测率并设定 ID 数据的分类误差和 ID 示例的 OOD 错误率的约束条件的学习目标，有效地解决了这个问题，并在常见的 OOD 检测任务中获得了优异的性能。

Feb, 2022

关于外部分布测试价值的讨论：好哈特定律的一个例证

这篇研究论文探讨了视觉问答的 OOD 基准测试（VQA-CP）目前存在的问题，指出了现有方法的局限性以及可能带来的负面影响，并提出了一些简单的解决方案，以更准确地评估模型的泛化能力。

May, 2020

关于外分布泛化评估的调研

机器学习模型在非独立同分布的数据分布下表现出可疑的风险，因此需要发展算法来评估和改善模型的泛化能力以及处理分布变化的能力。本文综述了现有的非独立同分布泛化评估的研究，将其划分为三个范式：非独立同分布性能测试、非独立同分布性能预测和非独立同分布内在特性表征，并简要讨论了预训练模型的非独立同分布评价。最后，提出了未来研究的几个有前景的方向。

Mar, 2024