有些人认为，大脑使用了量子计算，甚至使用了以量子理论无法解释的物理现象为基础的超量子计算（hyper-quantum computation），这就解释了为什么在现有计算机上创造AGI会失败。我和量子理论领域绝大多数研究人员都无法苟同那就是人类大脑拥有独特功能的原因之一，不过详加解释已经超出本文的讨论范围。
AGI是「人」，从一开始就是该概念的暗含之意。如果有一个程序，哪怕缺少一个人类特有的认知能力，那么，从定义上说，它就就不是AGI；使用非认知性特征（ non-cognitive attributes）（比如碳含量的百分比）来定义人格，是种族主义的做法，赞同有机大脑优于硅大脑。但是，能够做出新解释是「人」（人类和AGI）的独特功能具有道德和智力上的重要性，他们借由推测和批评做出新的解释，这一事实改变了一切。
如今，人格（personhood）更具象征意义，而非真实意义——如同一种荣誉，作为某个实体（黑猩猩，胎儿，公司）是人，以实现某种哲学或实践目的承诺。这并不好。请不要在乎这些术语，如果乐意，你可以改变它，对不同的实体都尊敬有嘉，使他们免于伤害及其他。那个客观标准定义下的真实人类与其他实体之间的区别具有重大的道德和实践意义，对包括AGI在内的文明功能也非常重要。
比如，不是计算机而是运行的程序才是人——仅这一事实就会提出一个未解的哲学难题，一旦AGl存在，这个难题就会变成现实的政治争议。因为一旦AGI在计算机上运行起来，再从计算机上剥离它无异于谋杀（或者至少会是错误的监禁），就像从人体剥夺掉他的思想。但是，和人体不同的是，仅需按钮，一个AGI程序就能复制到许多台计算机上。
虽然他们的运行步骤相同，但是，那些程序是同一个人还是多个不同的人？一个投票权还是多个投票权？删除程序是谋杀，还是较轻的攻击？如果一个流氓程序员在一台或者多台电脑上编制出成千上万个不同的AGI人群，也许这是违法的，会发生什么？他们都是人，享有人权。他们都能拥有选举权吗？
而且，考虑AGI，如同思考其他有创造力的实体，我们必须忘掉单词「程序」的全部既有含义。将AGI视为任何其他计算机程序会带来类似洗脑，奴役，暴虐的效果。这对小孩也同样残酷，因为和其他编程行为不同，「编程」一个已经处在运行中的AGI意味着教育。这会引发道德和事实层面的争议。忽视AGI的权利与人格，不仅是邪恶的化身，还会制造灾难：有创造力的存在不能永远被奴役。
有些人想知道，我们是否应该欢迎新的 机器人 负担，并且/或者如何装备他们的程序，让其本质上对人类无害（就像阿西莫夫的「 机器人 三定律」），并且/或者防止他们掌握将宇宙变为回形针的理论。那都不是问题。 事实一直如此，生产力、经济能力、智力，无论哪个方面， 单个特别有创造力的人（的能力）都成千上万倍于绝大多数普通人；而且这种人如果将自己的能力用来作恶，会祸害无穷。
这些现象与AGI没关系。善恶之间的思想斗争和人类物种一样古老，还会继续持续下去，无论智能在什么事物上运行。问题在于：我们总是希望善的智能总能击败恶的智能，生物智能击败 人工智能 ；但是我们错了，我们自己的「善」的概念需要不断发展。社会组织结构如何发展才算合理呢？「控制所有的智能」是一个巨大的错误，「控制所有看起来不同于我们的智能」也好不到哪里去。
我们必须停止使用的含义之一就是将（人类或类似AGI的）教育视为指令（instruction)——作为一种不加变更灌输既有知识的手段，让既有价值得以遵从。正如波普尔写道的（在科学的发现的语境下，它既适用于AGI编程也适用于孩子教育 ）：「没有(不受认知框架影响的)指令…我们不是通过复制而发现新事实或新影响，也不是从观察中归纳推导出它们，或者用任何其他依靠环境指导的办法发现新事物。 毋宁说，我们的办法是试错。」（译者注：这是波普尔在其《The Myth of the Framework》中说的话）也就是说，推测和批判。学习一定是指新创造的智能为自己行事和控制自身。
我没有突出所有这些哲学论题，因为我担心在人类发展出理解AGI并将之融入人类文明的哲学解释之前，AGI就被研发出来了。这一担心出于几乎完全相反的原因：我确信，研发AGI的全部问题就是个哲学事实，而不是计算机科学或神经生理学问题，而且哲学研究进展是AGI未来融合的关键，它也是把研发AGI放在首位的先决条件。
错误观念阻碍了AGI的发展。没有了波普尔的认识论，我们甚至没办法开始猜测成就AGI必须实现什么样的细节功能。波普尔的认识论并不为众人所知，更别说充分理解并加以运用了。为了把经验，奖赏与惩罚翻译成想法（或者更糟，翻译成行为）而将AGI视为机器，这如同通过平衡身体幽默来治愈传染病：没用，因为它源于古老且错得离谱的世界观。
如果没有理解AGI功能和其他任何一种计算机程序功能存在质的不同，那么，这个人就是在完全不同领域工作。如果一个人努力制作出其「思维」天生就无法违背先决约束的程序，那么，这个人就是在设计定义智能存在，比如一个人的特征，也就是创造力。
清除这一障碍不会自动得出结论。然而，获得答案也不全然很难。既然人类能够设定目标而黑猩猩没有这一能力，理解这一能力质的不同就为我们提供了信息：如何获取这一能力，答案肯定被编码进了人和黑猩猩DNA的相对少量差异中。因此，在一方面，我赞同AGI迫近阵营的观点：有理由认为我们和突破之间仅隔着一个想法。但是，这个想法必须是最好的想法中的一个。
