May, 2024
可解释的船舶避碰人工智能：解码决策过程和行为意图
Explainable AI for Ship Collision Avoidance: Decoding Decision-Making Processes and Behavioral Intentions
Hitoshi Yoshioka, Hirotada Hashimoto
TL;DR该研究开发了一个可解释的人工智能用于船舶避碰。通过提出由子任务评论网络组成的评论者网络，研究对碰撞避免中的每个子任务进行单独评估，以阐明人工智能决策过程。此外，通过 Q 值分析和注意机制来识别行为意图。通过将碰撞危险与对其他船只的关注程度结合起来，可将 AI 在碰撞避免中的行为意图可视化。经过数值实验验证该方法能够在不同拥堵水平下安全避免碰撞，并使 AI 的决策过程对人类可理解。该方法不仅有助于理解基于深度强化学习的船舶避碰任务中的控制器 / 系统，还适用于包含子任务的任何任务。