
在不远的未来,罪行遍布的约翰尼斯堡敢为人先,成了第一个部署自主生存的机器人警察的城市。一开始,这些机器人看上去对惩治罪恶很有效果,犯罪率大幅下降,但后来出现了问题。一群暴徒想要捞钱,于是绑架了一个马上要被拆卸的受伤机器人。他们胁迫一位工程师重新设定了这个机器人,并取名为“查比”(Chappie),他们把查比造成一个能自主生存的机器人,在其身上造出了奇点(singularity),即人工智能比人类智能更加聪明的那个点。
与多数科幻故事佳作一样,新电影《查比》其实是对人类天性和当代问题(如贫困、犯罪、歧视、欺凌、警方残暴)的一场探讨。然而,此电影同时引发了更有预见性的问题:即有感知力的人工智能将不可避免地出现。
来自亚利桑那大学和加州理工学院的物理学家,沃夫冈·芬克(Wolfgang Fink)说:“在过去,人类撇开伦理道德,把能想到的一切东西都试过了,能做的也都做出来了。假如某人搞明白了要怎样创造自主生命系统,那这些机器人就会出现。”
确实,包括芬克在内的无数科学家,正满腔热情地追逐这一研究领域,并取得了一定进步。同样,基于规则系统进行编程、具备人工智能、但缺乏意识或自主性,即如查比一类的机器人警察,也几乎快要问世了,只是其电池生命、其灵活性与影片中的那些虚假机器人无法匹敌。
然而,类似查比的真正能自我掌控、自我感知的存在,将会是一个我们从未见过的事物。哥伦比亚大学医学中心的阿里·马图(Ali Mattu)说:“从穴居人开始,我们还未曾有潜力与一种智慧物种真的合作共存。如果我们可以克服障碍,与某种人工生命形式分享共情,那么就会让人类进入一个不可思议的时代。”
硬件不是阻止这样一个生命样式出现的障碍——这仅仅是个工程学任务。相反,造出软件,即机器里的魂灵,才是真正挑战。研究者为解决这一问题,正在走两条不同的路。有些研究者尝试造出一种从零开始、时刻准备加载信息的可感知生命;另一些人则认为,写出一个基本程序,再配上机器人需要通过经历来学习、适应、修改的工具,这才是可行方法。

这一突破要是来临,不会是慢慢积累而来,而是突然来临。芬克预测,导致这一奇点出现的突破,不会在大学、政府或公司里产生,而将由一个小研究团队或是单独一个人来完成,可能有一位私人投资者提供资金,而想要试验、打破主流保守研究方式的精神则提供动力。
即便真能自我掌控的人工智能出现了,要预测这种系统会变得多复杂,或预测它将朝何方演化,也是不可能的。人工智能与我们这些有机系统不同,它不受生物进化之缓慢痛苦所限,其发展是爆炸性的。我们不能保证,这样一个系统会接受或维持道德伦理价值观,或者这些价值也能为人类所用。以查比为例,他的发展很像人类小孩,随时间推移而学习和成熟,先前其创造者允诺这个机器人不会伤害人类,其行为也确实受到了掌控。但是,当他遭受灭顶之灾时,查比就和很多人类一样,也基本把道德抛到一边,完全出于自私自利来行事了。
但是,真实世界里的可感知机器人却很可能无法拥有似人的理性,这削减了我们预测其行为、理解其动机的能力。科幻小说和电影对人工智能的问题已经探讨了有20多年。去年1月,PayPal的合作创建人、特斯拉汽车公司的CEO埃隆·马斯克(Elon Musk)就捐献了1000万美元,来防止机器人霸王会在未来某一天占据地球并消灭我们。最近Reddit网一个“随便问我什么”的帖子里,微软合伙创建人、慈善家比尔·盖茨写道:他“不理解,为何有些人不会担忧”超越我们认知能力、可自主生存的人工智能生命。物理学家斯蒂芬·霍金(Stephen Hawking)更加直截了当地表达了类似担忧:“完全人工智能的开发,将敲响人类灭亡的丧钟。”
另一面,人类也可以变成进攻者,威胁到我们自己创造出的自主生命形式。马图说,我们人类是否寻求一条和平之路,取决于两样东西:一是,我们是否可以与机器人进行沟通,二是,我们对其是否有同情心。他还解释,后者由一些看似肤浅的因素来决定,譬如机器人的样貌——是否恰巧惹人类喜爱。而是否与我们享有同样的目标也是一个因素。这些因素表明我们先天的神经学倾向,将他人要么看作值得信赖的内群体成员,要么看作对我们有潜在威胁的外群体成员。

然而马图指出,即便机器人确实能满足所有先决条件,仍然不能保证万事大吉:“曾有一度,人都很难将其他人看作人,就更别提对人工智能或奇异生命了。”
因此,在还没了解我们的造物之前,有可能我们就已将其毁灭了,或者相反——我们所造的软件的后代将我们变成了奴隶,或决意认为,人类不值得继续存活下去。另一方面,人类与自主机器人也可和谐共存,去合作追求有趣的事情,比如宇宙探索。事物是在战火和眼泪里终结,还是以进步和友谊告终,要弄清这件事,唯一方法是先造出这些事物。芬克说:“我们一直受好奇心、探索和发现未曾意料事物之愿望的推动,而科学道德却普遍落后于我们的技术进步。”马图也说:“有时候我们获得了原子能,有时候得到了原子能武器。我们不知道这技术会向何方发展,但我们无法让科学停下脚步。”












