本文来源：机器之心
人类大脑所具有的能力在某些方面要比任何宇宙中已知事物都更为强大，这一点毫无争议。大脑能够理解宇宙的存在，为什么会有无穷多质数，苹果坠落是因为时空曲率，遵循自身的生物本能在道德上可能是错误的，它也能理解自身的存在。大脑不仅是唯一能够理解上述现象的事物，它的独特还体现在这一冷冰冰的物理事实上：它是唯一能将自己送入太空，然后完好返回的事物，它能预测或预防陨石砸到自己，或者将物体冷冻到绝对零点之上数十亿分之一度，也只有大脑能够在银河远处寻找同类。
但是，对于以上所有被实现的事实和功能，这个星球上却没有一个大脑能够知道自己到底是怎么做出来的。人工地去实现它——AGI领域（AGI，artificial general intelligence，人工通用智能）——六十年来，没有任何进展。
尽管如此，AGI肯定有可能。这源于物理定律的一个深刻特性，计算的通用性(universality of computation，译者注：意思是说通过计算过程模拟自然过程的普遍可行性）。这一特点要求，只要时间和储存能力允许，通用（general-purpose）计算机上的某种程序能够模拟出物体遵循物理定律所做的每件事的任何细节。
那么，为什么这个领域却一直没有进展呢？在我看来，正如一位不知名的贤人曾经说过：「引起困惑的不是我们不知道的东西，而是我们以为知道，实际上并非如此的东西。」我想不出任何其他重要的知识领域会像这个领域一样，社会和专家中的主流智慧会如此深受根深蒂固根本错误的困扰。然而，这也是对预言——不久将来，AGI会取得终极突破——最具自信的领域之一。
1950年，艾伦·图灵预测，到2000年「人们能够谈论机器思考而毫无违和感」。1968年，阿瑟·C·克拉克预测这一情形会发生在2001年。直到今天，在对AGI的编程方面，仍然没有人超越图灵的范式。
这不会让那些对AGI可能性持反对态度的人（这个阵营的人数在减少）感到奇怪。但是，另一阵营（AGI迫近论者）也承认，失败过往亟需一个合理解释，至少能够说得通。
「AGI」这个用语就是一个合理化（解释）的例子，这个领域曾被称为「AI」——人工智能。但是，AI渐渐适合于描述各种不相关的计算机程序，比如，游戏玩家，搜索引擎和聊天机器人，直至G代表的「通用（general）」被加上去，人们才有可能再次（用这个单词）指代真实的事物，不过，现在的AGI不过是指更加聪明的聊天机器人。
另一类合理化（解释）偏离了总路线：AGI一点都不牛；现在的软件已经越来越智能，不过是以非人类（non-human)方式，而且我们太虚荣、太过秉持文化上的偏见以至于无法给它应有的认可。 这一解释获得了一定支持，因为它让人想起持续流行中文化相对主义的非理性以及相关修辞：「我们人类以身为动物典范而骄傲，但是这种骄傲放错了地方，因为动物也有着语言、工具……以及自我意识。」还记得电影《终结者》中计算机系统（天网，Skynet）变得具有「自我觉知」 而被如此关注吗？
那只是另一种哲学上的错误观念，本身足以屏蔽通往AGI的任何途径。事实上，现在的软件开发员能够直接为计算机编程，让它具有行为意义上「自我觉知」——例如，通过「镜子测试」 （mirror test，利用镜子推测关于自己的事实）——如果他们希望如此。就我所知，没人这么做，很可能因为这实在无关紧要。
自我觉知之所以会因其与AGI的联系而获得不应有的名声，原因可能在于任何一种自我参照都有这样的名声：迷信般的神秘性（woo-woo mystery），这还要感谢哥德尔定律（哥德尔不完备定理，1931年提出，哥德尔证明了任何一个形式系统，只要包括了简单的初等数论描述，而且是自洽的，它必定包含某些系统内所允许的方法既不能证明真也不能证伪的命题。——译者）和二十世纪各种形式逻辑争议（为我们揭示出这一真相）。意识（consciousness）也是如此。而且为了描述意识，我们又会遇到术语模糊的难题：意识这个术语的含义太广泛了。
在这个（含义广泛）术语的一个极端，有个关于主观感觉的本质，即「感觉质（qualia）」的哲学问题，这与AGI难题紧密相连；不过，另一方面，「意识」不过是麻醉状态时所失去的东西。许多动物当然也有这种东西。
未来，AGI确实会有自我觉知——但是，那是因为他们会变得通用（General）：他们能觉知到各种深刻而微妙的事物，包括它们自己。那并不意味着通过镜子测试的黑猩猩被暗示具有「通用智能（general intelligence）」特征，AGI是这种「通用智能（general intelligence）」的人工版本。确实，Richard Byrne对大猩猩模因（memes)的精彩研究已经揭示出，黑猩猩如何能相互学习有用的行为，却不理解这些行为的意义：对黑猩猩认知原理的解释实际上是行为主义的。
讽刺的是，合理化阵营（AGI已经完成了/不重要/在黑猩猩中也存在/是一个文化虚构）的观点正是那些源于「AGI不可能」阵营观点的镜像。针对每个类似观点「你做不出AGI，因为你永远没法为灵魂编程，因为它是超自然的」，「AGI容易实现」阵营中的合理化观点会认为，「如果你认为人类认知与黑猩猩有本质不同，你一定信仰超自然灵魂。」
「我们至今所不可实现的是…『人类智能』」，这是另外一种合理化（解释）。这种解释的代表性人物是哲学家John Searle（他属于「不可能」阵营），他认为在计算机诞生之前，蒸汽发动机和后来电报系统都曾被用来隐喻人类心智的工作方式。他认为，AGI可能仅存在于类似脆弱的隐喻上，亦即心智「本质上（essentially）」是计算机程序。但是，那并不是一个隐喻：计算的通用性(universality of computation)遵循已知的物理定律。
