爱吧机器人网 » 专题 > 观点 > 正文

智能机器人引伦理忧虑 是否成未来世界梦魇?

   阿尔法狗击败围棋世界冠军李世石,让我想起了30多年前看过的一部美国科幻电影:“未来世界”。

  这是一部描写机器人妄图统治人类的片子。未来世界的机器人认为人是变化无常的,没有理性的残暴的。他们的任务就是复制人类,最后消灭人类的原型,达到由机器人统治世界的目的。具体的工作就是在人类中输入他们的程序,听从他们的指挥。而这些复制品完全就是生物学上的人类,没有一丝机器痕迹。

  这部充满科幻意味的电影在刚打开封闭大门、改革开放不久的中国,引起很大的轰动,记得我前后看了6次,至今清楚里面的细节。

  30多年后,未来世界像是真的要来了,这就是电脑围棋阿尔法狗在前三局就以3比0击败了获得世界围棋冠军头衔最多的李世石。第三盘比赛,李世石全盘没有一点机会,赛后人们一片沉默,心情沉重。

  围棋是世界上最难,也是变化最多的棋类游戏。专家说,国际象棋的变化是10的60次方,而围棋则是之后的170个零,比全世界的沙粒加起来还要多,这就是围棋变化无穷的原因。

  如果仅仅从难度来看,电脑的聪明其实并不可怕。真正可怕的,是它能够自我编程,也就能够自我修补、自我提高。李世石第二盘结束后连夜与人研究复盘对策,殊不知阿尔法狗也没闲着,据阿尔法狗团队的工程师介绍,阿尔法狗也在自行复盘、研究、寻找最佳的着点。如果用量来计算,电脑的运算速度是人脑完全无法比拟的,量则更是李世石团队不可企及的。它的自我学习能力能够到了人类达不到的高度,这也是为什么阿尔法狗能够越战越好的原因了。比较几个月前5比0战胜欧洲冠军的棋局,人们惊叹“进步神速!”

  昨天在第四局的比赛前,几乎所有人相信阿尔法狗一定会再次轻取。但也有人警告,阿尔法狗会不会故意放水?如果阿尔法狗真的具有这样的思维,那么一定是非常危险的。讫今为止,电脑程序只是停留在逻辑思维上,如果在人类的引导下具有存在感和独立意识,则是极其危险的。因为有朝一日它将不会再臣服于人类,将用自己的价值判断力和无穷的能力,用自己的方式行事,这将会是一场灾难。

  第四局阿尔法狗输了,但愿真的是如专家所言,李世石的第78步的挖,这一人类从来没有用过的“莫名着法”让阿尔法狗看不清楚、无从应对而系统崩溃。但是阿尔法狗的主研究师赛后也说:“我们不清楚问题出在哪里,回去后将好好地研究。”这一句话也并没有给出真正的答案。

  阿尔法狗给这个世界带来了新的成就,但是也带来新的忧虑。人们担心一旦电脑机器人具有了价值判断能力,面对躺在医院里无法治愈的病人,会不会认为不能再让其消耗社会资源而拔去维持生命的管线?

  电脑机器人不好色,不贪财,没有爱好,没有喜怒哀乐的情绪变化,这正是最令人可怕之处。霍金说过一句话:“现在对人类智能的草率态度,将是人类犯的最严重和愚蠢的错误”。据悉,为应付可能出现的这类情况,谷歌和Facebook已经在考虑成立伦理小组,就像克隆技术现世后,一些国际组织和世界各国医学界达成一致意见:“严禁克隆人类”一样。

   智能机器人 会不会在未来世界变成人类的灾难?这样的忧虑是否存在?当梦魇真的来临时人类能不能坚守住自己的最后一道阵地?除了拔掉电源,还能做些什么呢?


上一篇:科学视角解读人机大战 未来3-5年能赢所有人类棋手
下一篇:三晋纹枰纵论“人机大战”(图)
精选推荐
人工神经网络技术解码人类行为和想象时的大脑活动信号
人工神经网络技术解码人类行为和想象时的大脑活动信号

[2017-08-23]  为搜索引擎过滤信息,棋盘游戏对弈,识别图像 人工智能在某些任务中远远超过了人类智能。来自弗莱堡由神经科学家私人讲师Tonio Ball博士领导的几个杰出的BrainLinks-Bra......

集群机器人领域最新研究:一种用于探测未知环境的微型无人机群
集群机器人领域最新研究:一种用于探测未知环境的微型无人机群

[2019-10-26]  (图:无人机扩散至不同方向来探索环境。当一个无人机注意到另一个无人机在它的首选方向,它将试图飞到另一个方向。若首选方向冲突,低优先 ...

机器人从工业走向家庭  库卡KUKA目标是引领中国市场
机器人从工业走向家庭 库卡KUKA目标是引领中国市场

[2017-12-08]  机器人正在改变着人们的生活方式,而库卡KUKA想要在中国这个大蛋糕中占有一块大份额,库卡公司正在引领市场...

这些人型机器人是如此真实,你的肉眼几乎无法区分
这些人型机器人是如此真实,你的肉眼几乎无法区分

[2017-09-03]   我们生活在一个区分现实与幻想变得越来越困难的世界。由于机器人技术的进步,创造人工的人类正在逐渐接近完美的最终目标。我们现在看到的机器人不再只是一块发光二极管,......

研究人员融合人类与AI的创造力 显著提高了深度学习的表现
研究人员融合人类与AI的创造力 显著提高了深度学习的表现

[2019-10-12]  由加拿大人工智能领域研究主席、滑铁卢大学系统设计工程教授Alexander Wong领导的一个团队开发了一种新型紧凑型神经网络家族,可以在智能 ...

可编辑神经网络,有望简化深度学习?
可编辑神经网络,有望简化深度学习?

[2019-10-04]  深度学习是一个计算繁重的过程。 降低成本一直是 Data curation 的一大挑战。 关于深度学习神经网络大功耗的训练过程,已经有研究人员 ...

英国首台月球车是个小型四腿机器人 将于2021年登月
英国首台月球车是个小型四腿机器人 将于2021年登月

[2019-10-12]  探测器将用四条腿探测月球表面,并将数据传回着陆器,后者将把数据传回地球图 詹姆斯温斯皮尔英国即将成为继美国、俄罗斯、中国之后的又一 ...

英伟达用联合学习创建医学影像AI 可共享数据和保护隐私
英伟达用联合学习创建医学影像AI 可共享数据和保护隐私

[2019-10-14]  英伟达(Nvidia)和伦敦国王学院(King’s College London)的人工智能研究人员利用联合学习训练了一种用于脑肿瘤分类的神经网络, ...

本周栏目热点

2017年聊天机器人未达到行业预期的3个原因

[2018-01-18]  持续几年的“聊天机器人革命”带来了巨大的期望。营销人员和未来主义者幻想着智能虚拟自主代理人,他们会比我们更好地了解我们自己,从谈话片段中收集我们的愿望,并将我们的......

【浅析】人工智能关键技术决定机器人未来

[2016-02-15]     目前的机器人已经能够胜任精确、重复性的工作,但很多时候,它还不能够灵活 ...

比尔·盖茨:AI是把双刃剑 应用来改善教育医疗

[2019-03-19]  比尔·盖茨表示,在医疗领域人工智能曾用于过滤23andMe的基因数据,发现硒元素的缺乏或可与非洲的早产现象有关。在18个月后,我们可以了解到,该项目是否会给2万多名带来更多......

深兰科技方林博士:人工智能自主进化成为可能

[2018-12-07]  人工智能行业在国内迎来集中研究兴盛期,研究侧重点也从观点提出期,发展到了以谷歌Alpha Go和深兰Deepblue Go为代表的机器学习、深度学习独立研究期,并在智能语音识别交互......

[2016-01-14]     1月12日,重庆市委书记孙政才在科研机构、企业和产业园区调研时强调,要深 ...