Apr, 2024
量化 AI 漏洞：复杂性、动态系统和博弈论综合
Quantifying AI Vulnerabilities: A Synthesis of Complexity, Dynamical Systems, and Game Theory
B Kereopa-Yorke
TL;DR我们提出了一种新颖的方法，引入了三个指标：系统复杂性指数（SCI），人工智能稳定性的李雅普诺夫指数（LEAIS）和纳什均衡鲁棒性（NER）。SCI 量化了人工智能系统的内在复杂性，LEAIS 捕捉了其稳定性和对扰动的敏感性，而 NER 评估了其对对手操纵的战略鲁棒性。通过比较分析，我们展示了我们的框架相对于现有技术的优势。我们讨论了理论和实践的意义，潜在的应用，限制以及未来的研究方向。我们的工作通过提供一种全面的、理论上有基础的人工智能安全评估方法，为安全可靠的人工智能技术的发展做出了贡献。随着人工智能的不断发展，通过跨学科合作优先考虑和推动人工智能安全是确保其对社会的益处负责任的部署至关重要。