爱吧机器人网 » 专题 > 观点 > 正文

【财经国家周刊】应出条法律、道德规范约束机器人设计者

  这次围棋大战,与其说是人工智能与人的大战,我觉得更多的是阿尔法狗在数据处理、机器的海量运行、记忆的存储、设计的有效性等方面,都取得了很大的成就。

  因此在固定的领域,计算机在与人比赛时,通过大数据的分析和规则的有效利用,成功的概率比较大。例如,在精细化制造中,机器不受情绪影响,可以一如既往按照设定的规则、设定的生产途径实现精细化。而人就会受到情绪和环境的影响。

  《财经国家周刊》:有人开玩笑说,如果阿尔法狗主动输给人,就更可怕了,很多人担心人工智能拥有和人一样的神经感知,担心人工智能将来不久会超过人类,人类就面临着末日,您怎么看人工智能?人工智能究竟是威胁还是契机?

  怀进鹏:人工智能是一项技术,作为技术它是中性的,并没有伦理和价值观的判断。它的好和坏,是我们从社会学和伦理学的角度来判断的。从技术上来说,我们关注它的效率,当它能被有效的利用时,就可以为社会做贡献。如果它被无效或者恶意的利用,就会带来问题。

  阿尔法狗主动地、有意识地输给人类,这种可能性也是有的,前提是给它设定了这样的程序,且是由人来设定的。或者是人在设计时,出了一点失误。目前机器自己是不会做到这一点。

iZ无人驾驶汽车,因为它要接受很多来自手机和后台云计算的数据,也可能会遇到黑客的攻击。如果后台突然被控制,汽车都停下来是一种可能,汽车无理性的横冲直撞也是一种可能。机器没有好和坏之分,它只有执行。现在机器能做的,还是人设定的这些规则。

  机器通过数据的分析,具有一定的学习能力,如果设定机器程序的学习能力去恶意模仿那些不好的行为,就容易带来危险,所以人在设定程序时,应该尽量给机器的学习能力注入正能量。

  技术发展到一定程度还是取决于如何被应用。社会也应该有一系列的法律规则来约束机器背后的人,约束设计者应该遵循社会的道德规范,考虑人类的心理承受能力。一个中性的科技,应该有伦理价值和社会价值。

  同时,我们也要储备超级技术,能够控制和恢复机器的状态,能控制机器新的演变,不然我们确实会遇到危险。

上一页123下一页

上一篇:设计工程师如何避开机器人“黑洞奇点”
下一篇:【分析】无人机这块香馍馍目前值得投资吗?
精选推荐
人工智能民主化能否实现取决于科技巨头
人工智能民主化能否实现取决于科技巨头

[2017-12-29]  我们经常听到像谷歌和微软这样的公司说他们希望人工智能民主化。这是一个很好的词,民主化。 但这些公司如何界定“民主化”还不清楚,像AI本身一样,它似乎有点炒作的味道...

这个外科手术机器人可以为患者“量身定制”
这个外科手术机器人可以为患者“量身定制”

[2019-07-12]  世界首创,来自澳大利亚机器人视觉研究中心的研究人员正在推动手术机器人的发展边界,他们创造了可定制的、小型化的手术机器人,能够唯一地 ...

全自动膝关节置换手术机器人被美国FDA批准上市
全自动膝关节置换手术机器人被美国FDA批准上市

[2019-10-14]  美国Think Surgical公司已获得美国食品和药物管理局(FDA)的批准,在美国销售用于全膝关节置换(TKA)的TSolution One®全膝关节应用 ...

机器人从工业走向家庭  库卡KUKA目标是引领中国市场
机器人从工业走向家庭 库卡KUKA目标是引领中国市场

[2017-12-08]  机器人正在改变着人们的生活方式,而库卡KUKA想要在中国这个大蛋糕中占有一块大份额,库卡公司正在引领市场...

机器人工程师具体都做什么?
机器人工程师具体都做什么?

[2017-12-08]  机器人工程师是幕后设计师,负责创建机器人和机器人系统,能够执行人类无法完成或不愿意完成的任务。 通过他们的创造,机器人工程师帮助工作更安全,更轻松,更高效,特别是......

九台“猎豹”机器人组队踢球,麻省理工高材生们的高级趣味
九台“猎豹”机器人组队踢球,麻省理工高材生们的高级趣味

[2019-11-09]  本周,在麻省理工学院10号楼外草坪上展开了一场别开生面的足球比赛。在绿草如茵的基利安球场上,一群由人工智能驱动的机器人就是这场比赛的 ...

谷歌宣布搜索算法重大升级,用BERT模型理解用户搜索意图
谷歌宣布搜索算法重大升级,用BERT模型理解用户搜索意图

[2019-10-26]  谷歌刚刚宣布,其搜索引擎的核心算法正在进行一项重大升级,这项升级可能会改变10%的搜索结果排序。此项升级应用了自然语言处理技术(BERT ...

人工神经网络技术解码人类行为和想象时的大脑活动信号
人工神经网络技术解码人类行为和想象时的大脑活动信号

[2017-08-23]  为搜索引擎过滤信息,棋盘游戏对弈,识别图像 人工智能在某些任务中远远超过了人类智能。来自弗莱堡由神经科学家私人讲师Tonio Ball博士领导的几个杰出的BrainLinks-Bra......

本周栏目热点

2017年聊天机器人未达到行业预期的3个原因

[2018-01-18]  持续几年的“聊天机器人革命”带来了巨大的期望。营销人员和未来主义者幻想着智能虚拟自主代理人,他们会比我们更好地了解我们自己,从谈话片段中收集我们的愿望,并将我们的......

【浅析】人工智能关键技术决定机器人未来

[2016-02-15]     目前的机器人已经能够胜任精确、重复性的工作,但很多时候,它还不能够灵活 ...

比尔·盖茨:AI是把双刃剑 应用来改善教育医疗

[2019-03-19]  比尔·盖茨表示,在医疗领域人工智能曾用于过滤23andMe的基因数据,发现硒元素的缺乏或可与非洲的早产现象有关。在18个月后,我们可以了解到,该项目是否会给2万多名带来更多......

深兰科技方林博士:人工智能自主进化成为可能

[2018-12-07]  人工智能行业在国内迎来集中研究兴盛期,研究侧重点也从观点提出期,发展到了以谷歌Alpha Go和深兰Deepblue Go为代表的机器学习、深度学习独立研究期,并在智能语音识别交互......

[2016-01-14]     1月12日,重庆市委书记孙政才在科研机构、企业和产业园区调研时强调,要深 ...