在未来，AI是帮助人类完成了终极进化，还是给我们带来了毁灭？《终结者》系列以及最近热播的《西部世界》第二季呈现的剧情在一定程度上也反映了人类的思考。
西部世界第二季宣传海报
对于人类的未来究竟如何，学术界百家争鸣，其中最著名的当属美国未来学家雷蒙德·库兹韦尔提出奇点理论。
该理论预言：在2045年电脑智能与人脑智能可以完美的相互兼容，纯人类文明也将将终止。届时强人工智能终会出现，并具有幼儿智力水平。
在到达这个节点一小时后，AI立刻推导出了爱因斯坦的相对论以及其他作为人类认知基础的各种理论；而在这之后一个半小时，这个强人工智能变成了超级人工智能，智能瞬间达到了普通人类的17万倍。
当然，也有乐观者认为到那时候，人类物质将极大丰富，人类文明进入共产主义。
奇点理论的乐观主义者——孙正义
软银集团董事长孙正义（Masayoshi Son）在众人一贯对未来抱有疑虑的时候，他却毫不畏惧。他断言，30年内，机器人的智商将提升到10,000，机器人的数量也将比肩人类。和很多科幻小说作家、未来学家、计算机程序员一样，孙正义是奇点理论（the Singularity）的忠实支持者。
最近，《经济学人》杂志发表文章称，软银旗下的愿景基金将向科技行业投资1000亿美元，这在体现孙正义本人大格局的同时，也恰好证明了孙正义对人类光明未来的期待。
投资大致分为三个领域：1.前沿产业 2.正在运用新技术的老产业 3.科技、媒体、电信。
“奇点”理论的两种解读
对奇点理论态度看法的不同，事实上是对未来人工智能所能达到的先进程度的争议。业界把人工智能按照先进程度，分为三种：弱人工智能，强人工智能，超级人工智能。
弱人工智能只能在特定领域、既定规则中，表现出强大的智能，例如AlphaGo。
而强人工智能不受领域、规则限制，具有人类同样的创造力和想象力。超级人工智能呢？就是远远超越人类的智能。
而 “奇点”这一词在不同语境里定义不同，但通常和“超人类主义”（transhumanism）等词有概念重叠。奇点的大致含义是，技术进步的速度会呈指数式增长，并且持续加速，最终量变产生质变，从而技术的发展会脱离人类的控制。
人们对于奇点的最终结局有截然不同的预想：悲观主义者认为人类最终会被神一般强大的人工智能体消灭。
然而，乐观主义者构想的则是一个完全不同的时代：到那时，物质无限地丰富，人类获得了了极大的自由；经过基因改造的人类彼此通过脑电波互联在一起，形成如同太阳系般广阔的蜂巢思维（hivemind），然而他们的思想也可能会上传到一个硅制的乌托邦里。
注：蜂巢思维，即所有人都通过互联网和社交媒体连接在一起。
借助指数增长的力量，每一次翻倍所引发的进步规模将等同于先前所有翻倍带来的进步之和，这种科幻小说里描绘的未来指日可待。
指数式增长是常被提及的说法。奇点理论的支柱之一就是摩尔定律：一块芯片上所能集成的元器件数量，或者说芯片的计算力，每隔数月就会翻倍。假如保持这样的趋势，在未来的世界里，只须花一点点钱便可以拥有惊人的计算力。
人们认为，真正意义上的人工智能的到来将会开启奇点时代。根据奇点主义者（Singularitarians）的观点，假如计算机足够智能，它们就能够理解自身的设计，甚至能够通过改进对自身的设计而变得更聪明。如此迭代更新，这些机器将会依靠自身的智慧进化成神一般的存在。
当然，不是所有人都相信奇点的存在。反对者指出，指数式增长的一个基本特征就是它不能永远持续下去，因为技术发展有极限，到了一定程度就会停止。比如著名的摩尔定律：芯片的计算力每18个月翻一番，价格降一半。这个定律左右了科技界很多年，但最近也因为遇到物理极限，开始放缓。
奇点主义者则反驳称，实际上，现在还未达到一块芯片所能容纳计算元件数量的极限，但，即使摩尔定律的速度放慢，也不过是推迟了极限实现的时间，但并不意味着那伟大的一天永远不会来。
另有一部分人认为，奇点不过是宗教信仰披上了新衣后对“千禧年主义”重新宣扬，晶体管和Wi-Fi取代胡子和闪电成为了千禧年主义追随者的新武器。奇点主义和超人类主义的早期支持者尼克莱•费德洛夫相信那些死去的生命可以通过技术手段而不是神学手段复活，而那些虚拟现实的乌托邦看起来也确实像极了天堂。
注：
千禧年主义, 一种宣称基督在世界末日到来时复临并统治世界千年的信仰。
胡子和闪电象征世界末日到来、千禧年开始。《启示录》里说基督（圣子再降临时是白须白发，末日时掌印天使的声音如同雷鸣。
