Nov, 2023
能干的 AI 系统的必要性 —— 概念说明
A Case for Competent AI Systems $-$ A Concept Note
Kamalakar Karlapalem
TL;DRAI 系统的效率取决于其与给定任务的特定要求的一致性；然而，任务的固有复杂性常常引入潜在的有害影响或不良行为。本研究探讨了 AI 系统中关键的能力概念，即系统应该提供的功能；该概念的表达包括明确定义的结果，但实现这一能力可能会受到实施和测试不足的影响，反映了系统能力与其成功执行的能力之间的差距。探索 AI 系统有效执行任务的能力存在一项核心挑战，这一挑战尚处于初级阶段，有时表现为表示成功概率的置信区间。对于 AI 系统的能力的明确建模和详细规范是建立对其的信任的关键，它与系统的能力密切相关。本研究提出了一个框架，来说明 AI 系统的能力。受到类似 “Glass Door problem” 这样的实际场景的启发，其中一个人由于能力上的失败而无意间遇到玻璃障碍物，本研究强调了深入研究能力动态的重要性。通过详细层面上弥合能力与功能之间的差距，本研究促进了增强 AI 系统在现实应用中可靠性的讨论。