人工智能不是人的智能,但却是像人那样思考、也很可能超过人的智能,本身就是基于对人的意识、思维信息过程的模拟。那么，未来拥有自我意识和情感的超级人工智能到底会不会出现？人工智能是否真的能发展出“意识”，让人类生存受到威胁？
很多人之所以害怕人工智能，是因为他们不相信人工智能会一直听话顺从。目前已经有太多描写机器人反抗人类，在大街上四处兰窜，肆意屠杀的科幻小说和电影。然而，机器人可能带来的问题其实恰恰相反，我们是该害怕机器人，但是原因是他们永远只会服从主人，绝不反抗。
当然，盲目听从没有什么问题，但是前提是主人是个好人。
想象一下，在战场上，如果交战双方全用杀手机器人商场，就能确保这是历史上第一次真正遵循战争法的战役。人类士兵可能一时受到情绪影响，就犯下谋杀等战争法的罪行。而讲到情绪我们通常想到的是爱心、同理心和同情心。
但是在战场上，控制着人的情绪的，往往是残酷、仇恨和恐惧。由于机器人没有情绪，我们就能放心的相信它们会严格遵守素有的规则，用用不受个人恐惧和仇恨的影响。
《机械公敌》中机器人集体叛变攻击人类
至少在未来几十年，我们不用担心科幻小说里那种人工智能产生意识、杀光或者奴役人类的噩梦。我们会越来越依赖算法为我们做决定，但是算法并不太可能开始有意识的操纵人类。
事实上，它们不会有任何意识。科幻小说常常把智能和意识混为一谈，认为如果要有与人类相当甚至更高的智能，计算机就必须发展出意识，几乎所有关于人工智能的电影和小说基本情节都围绕着计算机或机器人产生意识的哪个神奇时刻。
而一旦它们拥有的意识，不是人类主角爱上机器人，就是机器人打算统治人类。但实际上，并没有理由相信人工智能会获得意识，因为智能和意识是完全不同的两种概念。
智能是解决问题的能力，意识则是能够感受痛苦、喜悦、爱和愤怒等事物的能力，我们之所以会两者部分，是因为对人类和其他动物来说智能与意识兼而有之。其他动物处理大多数问题靠的是“感觉”，但计算机会用完全不同的方式趣解决问题。
提高之智能的路有很多种，其中只有一条需要靠意识，就像飞机不用有羽毛，但飞行速度却比鸟更快，计算机也不用发展出动物所需要的感受，就能比其他动物更会解决问题。
图右机器人专家石黑浩教授，图左是他发明的机器人替身
确实，人工智能必须准确分析人类的感受，才能好好体人类服务，但是这一切基础并不需要它自身有任何感觉。算法只需要学会辨别人类在快乐、愤怒或者恐惧霞的生化模式，而不需要它自己感受到快乐、愤怒或者恐惧。
就目前人类具有的知识来看，这些都可能无法排除。然而，正因为对意识知道的太说，短时间内似乎并不可能设计出有意识的计算机，因此虽然人工智能具有巨大的力量，但在可预见的未来人工智能的运用在一定程度上还是以人类的意识为准。
未来几十年内，我们不太可能碰到机器人叛乱的问题，但是机器人可能会比你的父母更知道怎样而可以触动你的情绪，并且会运用这种神奇的能力来对你进行推销，让你想买某辆汽车，或是想接受某种意识形态。
这些机器人能够找出我们最深层的喜怒哀乐，再用它们来“对付”我们。从最近全球的选举和公投就可以遇见未来：黑客通过分析选民数据，运用选民现有的偏见，就能知道怎样操纵单个选民。
科幻惊悚片常常上演的是烈火浓烟、轰轰烈类的末日景象，但实际上，末日想象可能是在鼠标一次又一次的点击当中悄悄而且平凡的来临。
未来的危险，除了“数据独裁”之外，大数据算法可能会抹去自由，同样也可能创造出历史上最不平等的社会，让所有的财富和权力集中在一小群精英手中，大部分人类的痛苦将不再是受到剥削而是更糟的局面，那就是再也无足轻重。
