应用神经附加模型,强制执行单调性原则以保证人工智能伦理和社会的公平性问题,是所有公平领域的必要因素,包括犯罪学,教育,医疗和金融等。
Jan, 2023
科学信息化机器学习模型中应用可解释机器学习方法是否会得到一致的科学解释是本研究的关键问题,通过引入领域知识,提出了描述单调性的三个公理,并得出结论当仅涉及个体单调性时,基准 Shapley 值提供了良好的解释,但当涉及强对数单调性时,集成梯度方法在平均上提供了合理的解释。
Sep, 2023
本研究提出了一种基于梯度的点损失函数,用于加强深度神经网络的学习过程, enforcing partial monotonicity,其结果显示该方法在 AUC 和单调度方面具有可比性(有时表现更好),并能够学习不同的个体趋势并产生更平滑的条件曲线,同时保留深度网络的灵活性,强调了领域知识在增强模型性能和实现可靠预测中的重要性。
Sep, 2019
本文针对机器学习中数据采集的困难和对泛化理解的缺乏,提出一种风险单调且效率较高的学习算法,解决了 Viering et al. 2019 提出的风险曲线非单调性的问题,同时提出了专门针对马尔可夫差分序列等非独立同分布的过程的经验 Bernstein 集中不等式的新方法。
Nov, 2020
本文提出一种基于神经网络的单残差连接的加权受限架构,以实现对神经网络输入的任何子集的确切单调依赖,同时控制了神经网络的 Lipschitz 常数,从而提供了鲁棒性,该算法被用于训练强大,鲁棒和可解释的鉴别器,在多个基准测试中均取得了与当前最先进方法相媲美的性能。
Jul, 2023
本文介绍了一种评估神经模型能否学习自然语言的单调性推理系统性的方法,并考虑了语法结构的重要性,实验表明神经模型的推理性能在语法结构相同的情况下很好。
Apr, 2020
通过使用梯度惩罚以及风险最小化,我们研究了满足不同单调性概念的预测器,介绍了一种方法来使用训练实例和随机点来扩展惩罚的范围,在不增加计算开销的同时,在图像分类和生成建模等领域实现了控制数据生成、检测异常数据和生成预测解释等的优势。
May, 2022
本文提出一种改进的 min-max 网络架构,使用严格单调递增光滑非线性函数来缓解梯度消失问题,以支持计算机辅助决策中的公平性,并在数据驱动的科学模型中增加可信度,其性能表现优于其他神经网络和非神经网络方法。
Jun, 2023
在线学习与个体公平性问题的方法,考虑了能够聚合任意数量审核员反馈的审核方案,并提出了两个算法分别用于降低后悔度和公平违规数量,在计算效率方面也做出了显著改进。
Mar, 2024
本篇研究提出了一种针对深度学习的单调性约束处理技术及激活函数为 ReLU 神经网络的单调性归纳偏置技术,并实现了名为 COMET 的工具。实验结果显示,该方法与现有单调性学习器相比具有最先进的结果,并且可以提高模型质量。
Jun, 2020