这并不是说，超级智能机器只有在变得超级邪恶之后，才会对我们人类构成威胁。 “人工智能真正的风险不是恶意，而是竞争力，”物理学家霍金最近提出。 “超级智能机器将非常善于实现自己的目标，如果这些目标与我们的目标不一致，我们就麻烦了。你踩死蚂蚁，可能并不是因为你是一个邪恶的蚂蚁仇恨者，但如果你负责一个水电绿色能源项目，有一个蚁丘被水淹没，那蚂蚁就是纯属倒霉。我们不能让人类陷入蚂蚁的这种处境。”
现在的人工智能有多聪明？
尽管现在我们有了更聪明的算法，更强大的 机器人 ，超级智能机器却仍然更像是科幻而非科学的产物。Facebook人工智能研究主管扬乐康（Yann LeCun）说，“人工智能现在的聪明程度和老鼠差不多。”他说得没错。IBM花了多年时间编程，投入了数以百万计的美元，在2011年推出了“沃森”（Watson）程序。沃森在《危险边缘》智力游戏节目中，击败了最出色的人类选手，现在它是IBM公司“认知计算”项目的基础。
它可以每秒读取8亿个页面，可以消化维基百科的全部语料，更不用说积累了几十年的法律和医学期刊了。但是它不能教你如何骑自行车，因为它的智能频谱很狭窄——它不知道这个世界实际上是如何运转的。Aristo是最先进的人工智能程序之一，但它无法理解这样一句话：“人呼吸空气。”因为要理解这一点，你需要一般性的知识——它却没有这样的知识。即使它知道这句话中每个词的定义，它也不知道人们呼吸空气是为了生存；不知道人是每分钟呼吸一次空气，还是一辈子只呼吸一次。还一些令人印象深刻的服务，比如Skype翻译（目前只有预览版），用户可用两种不同的语言进行实时对话，但它也有很长的路要走。如果你与意大利的一个人聊天，你对天气的谈论，可能会被翻译成对《圣经》的评论。
这并不是说智能机器的兴起就没有风险。自主武器系统，比如武装无人机，可以利用面部识别技术和其他数据来开展暗杀活动，这样的危险确实是存在的。
但它们并不对整个人类的生存构成威胁。有些人会想象，朝鲜黑客会突然开发出新的算法，让金正恩拥有了世界终结者那样的攻击力，这其实不太可能。因为人工智能和iPhone不一样，不是你写一个新应用就能大功告成的事情。它更像构建互联网本身——只能通过时间来完成，它需要大量的增量发展。
夸张的想象掩盖了真正的风险
事实上，夸张的想象反而掩盖了智能机器兴起带来的真正风险——导致工人失业，在战争中更多使用自主武器，以及这样一个事实：我们越是依赖机器，出问题的时候（无论是技术故障还是黑客攻击），我们的风险就会越大。
这是一个关于“异化”（alienation）的问题。如果在一个世界中，我们和机器说话的时候多过和人说话，而艺术不过是一种谐调悦目的算法输出，异化就会出现。此外，人工智能时代也会带来严重的隐私挑战，这不仅仅是说有智能无人机从上空监视你，而且也是说一些公司会跟踪你的一举一动，目的就是为了向你销售东西。
