爱吧机器人网 » 专题 > 观点 > 正文

智能机器人引伦理忧虑 是否成未来世界梦魇?

   阿尔法狗击败围棋世界冠军李世石,让我想起了30多年前看过的一部美国科幻电影:“未来世界”。

  这是一部描写机器人妄图统治人类的片子。未来世界的机器人认为人是变化无常的,没有理性的残暴的。他们的任务就是复制人类,最后消灭人类的原型,达到由机器人统治世界的目的。具体的工作就是在人类中输入他们的程序,听从他们的指挥。而这些复制品完全就是生物学上的人类,没有一丝机器痕迹。

  这部充满科幻意味的电影在刚打开封闭大门、改革开放不久的中国,引起很大的轰动,记得我前后看了6次,至今清楚里面的细节。

  30多年后,未来世界像是真的要来了,这就是电脑围棋阿尔法狗在前三局就以3比0击败了获得世界围棋冠军头衔最多的李世石。第三盘比赛,李世石全盘没有一点机会,赛后人们一片沉默,心情沉重。

  围棋是世界上最难,也是变化最多的棋类游戏。专家说,国际象棋的变化是10的60次方,而围棋则是之后的170个零,比全世界的沙粒加起来还要多,这就是围棋变化无穷的原因。

  如果仅仅从难度来看,电脑的聪明其实并不可怕。真正可怕的,是它能够自我编程,也就能够自我修补、自我提高。李世石第二盘结束后连夜与人研究复盘对策,殊不知阿尔法狗也没闲着,据阿尔法狗团队的工程师介绍,阿尔法狗也在自行复盘、研究、寻找最佳的着点。如果用量来计算,电脑的运算速度是人脑完全无法比拟的,量则更是李世石团队不可企及的。它的自我学习能力能够到了人类达不到的高度,这也是为什么阿尔法狗能够越战越好的原因了。比较几个月前5比0战胜欧洲冠军的棋局,人们惊叹“进步神速!”

  昨天在第四局的比赛前,几乎所有人相信阿尔法狗一定会再次轻取。但也有人警告,阿尔法狗会不会故意放水?如果阿尔法狗真的具有这样的思维,那么一定是非常危险的。讫今为止,电脑程序只是停留在逻辑思维上,如果在人类的引导下具有存在感和独立意识,则是极其危险的。因为有朝一日它将不会再臣服于人类,将用自己的价值判断力和无穷的能力,用自己的方式行事,这将会是一场灾难。

  第四局阿尔法狗输了,但愿真的是如专家所言,李世石的第78步的挖,这一人类从来没有用过的“莫名着法”让阿尔法狗看不清楚、无从应对而系统崩溃。但是阿尔法狗的主研究师赛后也说:“我们不清楚问题出在哪里,回去后将好好地研究。”这一句话也并没有给出真正的答案。

  阿尔法狗给这个世界带来了新的成就,但是也带来新的忧虑。人们担心一旦电脑机器人具有了价值判断能力,面对躺在医院里无法治愈的病人,会不会认为不能再让其消耗社会资源而拔去维持生命的管线?

  电脑机器人不好色,不贪财,没有爱好,没有喜怒哀乐的情绪变化,这正是最令人可怕之处。霍金说过一句话:“现在对人类智能的草率态度,将是人类犯的最严重和愚蠢的错误”。据悉,为应付可能出现的这类情况,谷歌和Facebook已经在考虑成立伦理小组,就像克隆技术现世后,一些国际组织和世界各国医学界达成一致意见:“严禁克隆人类”一样。

   智能机器人 会不会在未来世界变成人类的灾难?这样的忧虑是否存在?当梦魇真的来临时人类能不能坚守住自己的最后一道阵地?除了拔掉电源,还能做些什么呢?


上一篇:科学视角解读人机大战 未来3-5年能赢所有人类棋手
下一篇:三晋纹枰纵论“人机大战”(图)
精选推荐
什么是机器人学?机器人学简介
什么是机器人学?机器人学简介

[2017-12-14]  机器人学是工程学与科学的交叉学科,包括机械工程,电气工程,计算机科学等。机器人技术涉及机器人的设计、制造、操作和应用,以及用于控制、感官反馈和信息处理的计算机系统。...

麻省理工正研究植物机器人 让植物自主控制机器人
麻省理工正研究植物机器人 让植物自主控制机器人

[2018-12-08]  控制论通常指人类用机器人部件增强自己。我们听说过动物机器人或昆虫机器人,但我们很少听说植物机器人对吧?一个机器人其实是对植物有很大益处的,因为一般植物根本无法移动......

国外眼科手术机器人为视网膜静脉阻塞患者带来希望
国外眼科手术机器人为视网膜静脉阻塞患者带来希望

[2017-03-20]  视网膜静脉阻塞,简称RVO,对患者来说是一种严重的疾病。该病病因为视网膜静脉中存在血液凝块,这可能导致视力严重下降,在某些情况下,病 ...

17世纪的莱布尼茨试图制造“思想机器”却被现实打脸
17世纪的莱布尼茨试图制造“思想机器”却被现实打脸

[2019-11-05]  莱布尼茨,德国哲学家、数学家、律师,历史上少见的通才1666年,德国博学家戈特弗里德·威廉·莱布尼茨(Gottfried Wilhelm Leibniz)发 ...

从AI中窥探人性
从AI中窥探人性

[2018-01-03]  人们对人造智能的恐惧早已成为科幻书籍和电影的极好题材。但现在,一些同样的担忧开始影响关于现实世界AI技术的政策讨论。如果这样的担忧演变成为一种技术恐慌...

为未来战场创造更有效的机器人 美国陆军研究人工纳米马达
为未来战场创造更有效的机器人 美国陆军研究人工纳米马达

[2019-10-11]  为了使机器人在战斗中更有效、更多才多艺地成为士兵的战友,美国陆军研究人员正在执行一项任务,即研究肌肉分子生命功能的价值,以及复制过 ...

Waymo:人性和行为心理学才是无人驾驶最大的挑战
Waymo:人性和行为心理学才是无人驾驶最大的挑战

[2019-11-03]  自动驾驶汽车作为AI领域内最大的挑战之一,谷歌致力于其研发已有十余载,现在他们逐渐意识到,最困难的是如何让人们享受驾驶的乐趣。这是一 ...

科学家从蟑螂获得启发 教机器人更好地走路
科学家从蟑螂获得启发 教机器人更好地走路

[2017-12-11]  Weihmann指出:“我特别感到惊讶的是,动物运动稳定机制的变化与腿部协调的变化是一致的。昆虫的慢运行非常稳定,因为它的重心很低,三条腿总是以协调的方式运动。...

本周栏目热点

创新推动以机器人为代表的智能装备制造业发展

[1970-01-01]    目前,中国已有机器人生产企业100多家,国内包括天津、重庆、上海、江苏以及广州等地,在当地政府部门的强力支持下都在大力发展自动装 ...

Jeff Dean:谷歌翻译API才9月就已获利

[2017-09-30]  很多人看来,人工智能一直都是停滞不前的,虽然研发出来的成果不少,但是接近现实,真正投放入现实的,却为数不多,不过在2016年9月,谷歌 ...

【专访】佛山需稳扎机器人等市场 期待更多本土跨国公司

[2015-12-10]     佛山处在改革开放前沿,此次跨国调研活动动作快,一定会引起全国关注。12月 ...

[1970-01-01]    机器和机器人把人从繁重的体力劳动和枯燥的工作中解放出来,去干更重要的工作,或者让人成为监工,监督机器人干活。这是一个美好的前景 ...

[2016-09-03]   60年多前的夏天,麻省理工学院里的几个计算机系的教授聚在一起,第一次提到了人工智能这个词。当时他们以为,用一个夏天的时间,就可 ...