Jul, 2024
混乱边缘：过度复杂性阻碍人工智能的通用化
Over the Edge of Chaos? Excess Complexity as a Roadblock to Artificial
General Intelligence
TL;DR通过复杂性理论，该研究探索了人工智能系统的发展轨迹，挑战了线性和指数式投射的人工智能普适性进展，并提出了存在临界点的假设，类似于复杂系统中的相变，人工智能性能可能在超过临界复杂度阈值后停滞或陷入不稳定性。研究使用基于代理模型的建模来模拟假设情景，并使用性能基准作为能力和复杂度的代理指标。我们的模拟演示了增加人工智能系统复杂度可能超过上限临界性阈值，导致不可预测的性能行为。此外，我们还开发了一种实用的方法，利用模拟数据和随机梯度下降来精细调整检测阈值，以检测这些临界阈值。本研究提供了一个与大型语言模型相关且独特的人工智能进展视角，强调在推测人工智能的增长潜力时需要谨慎，并强调了发展更强大和全面的人工智能性能基准的重要性。