Mar, 2024
利用先验知识和认知模型提升深度学习：关于增强可解释性、对抗鲁棒性和零样本学习的调查
Improving deep learning with prior knowledge and cognitive models: A survey on enhancing explainability, adversarial robustness and zero-shot learning
Fuseinin Mumuni, Alhassan Mumuni
TL;DR对于实现对抗性防御、可解释的人工智能（XAI）和零样本或少样本学习，我们回顾了当前和新兴的知识驱动和启发式认知系统。数据驱动的深度学习模型在许多应用中取得了卓越的性能，并展示了超过人类专家的能力。然而，它们无法利用领域知识导致在实际应用中存在严重的性能限制。特别是，深度学习系统容易受到对抗性攻击，这可能导致明显错误的决策。此外，复杂的数据驱动模型通常缺乏可解释性，即它们的决策无法被人类理解。此外，模型通常在具有封闭世界假设的标准数据集上进行训练。因此，在实际的开放环境推理过程中，它们很难推广到未见情况，从而引发了零样本学习问题。虽然存在许多常规解决方案，但明确的领域知识、启发式神经网络和认知架构为缓解这些问题提供了强大的新维度。先前的知识以适当的形式表示，并结合在深度学习框架中，以提高性能。受大脑启发的认知方法使用模仿人类思维的计算模型来增强人工智能代理和自主机器人的智能行为。最终，这些模型实现了更好的可解释性、更高的对抗稳健性和数据有效学习，从而能够深入了解认知科学和神经科学，进一步加深对人脑一般工作原理以及它如何处理这些问题的理解。