TL;DR软件的效应取决于解释它的硬件，但对于人工智能（AI）来说，这种做法对于建立人工普通智能（AGI）或人工超级智能（ASI）而言是不理想的。本文提出一个基于激励认知和泛计算的方法来解决这个问题，探讨了解释器选择对于解释结果的影响，明确给出了 AGI 和 ASI 的定义和实现方式。
Abstract
Software's effect upon the world hinges upon the hardware that interprets it.
This tends not to be an issue, because we standardise hardware. AI is typically
conceived of as a software ``mind'' running on such interchangeable hardware.
This formalises mind-body dualism, in that a software ``mind'' can be run on
any number of standardised bodies. While this w
通过系统比较生命和算法系统的不同，着重关注 “代理” 的概念，探讨了发展人工通用智能（AGI）的前景，结果发现与当前的 AI 研究算法框架相比，生命和算法系统存在非常不同的能力和局限性，并特别指出在当前 AI 研究算法框架中极不可能发展真正的 AGI。因此，讨论有关算法工具的正确开发和部署应围绕当前狭窄 AI 的危险和机遇，而不是人工系统中真正产生代理的希望。