爱吧机器人网 » 专题 > 观点 > 正文

指望AI永远保持客观可能是一种奢望

如果你在某个周末抽空回顾十多年前的经典科幻片,就会发现好莱坞非常擅于将人工智能设置为肩负统治人类重担的终极大BOSS。无论是黑客帝国里的史密斯,还是终结者里的天网,甚至是生化危机里的红后,都体现出一种高效、理智、冷酷,视万物为蝼蚁的形象。

\

而这,也多少影响到了普通人对人工智能的认知。比如近年比较热门的无人驾驶领域,我们就经常能听到这样的声音,“如果世界上所有的汽车都交给AI来驾驶,或许就能根治由司机操作不当导致的车祸了。”

但这种“交给AI会更好”的想法,也正在从自动驾驶领域不断蔓延。近期,有外媒报道一份名为《欧洲技术启示2019》的调查报告主题显示,在针对西欧八国2500人的在线调查后发现,超过25%受访者更倾向于将政策的制定交给人工智能——看来人类社会离被机器人统治的时代似乎越来越近了,只不过这次人类可能不再是被迫接受管理,而是主动将决定权交到人工智能的手上。

\

【AI真的能保持绝对中立吗?】

导致人们产生“交给AI会更好”的原因,无非是大家觉得人工智能在作出判断时,更少受到情绪和利益的影响,因此所做的决定会更加高效且客观。不过老实说,由大数据搭建起来的人工智能,真的能做到如影视作品里表现的一般,保持完全理智吗?实际上,越来越多的研究表明,在人工智能的算法背后,同样饱含人类的各种陋习。

甚至从某种角度来讲,以大数据作为基础的人工智能,几乎就是各种世俗偏见的“集大成者”。

\

就拿最敏感的种族歧视来说,早在2012年就有研究指出,供应商Cognitec公司开发的人脸识别算法,在非裔美国人身上的表现比白种人差5%到10%。此外在性别歧视方面,人工智能与人类固有的刻板印象相比也不遑多让,有研究显示,当一张图片中出现厨房背景,那么识图软件大概率会将出现在图片中的人物识别为女性,而如果图片中的背景与运动相关,则很有可能让软件联想到男性。

\

甚至在硬件方面,也多多少少存在着难以察觉的偏见。去年华盛顿邮报进行的一项研究中发现,谷歌和亚马逊的智能语音助手识别非美国本地口音的准确率,要比美国本地口音低30%,这被不少媒体和学者认为存在“地域歧视”。与此同时,现阶段无论是Siri、Alexa、Google Assistant、Cortana、Bixby,还是国内的小爱同学、天猫精灵等,几乎所有的语音助手都是默认女性声音。因此就有观点认为,这种发展趋势导致人们在潜意识中,更倾向于让女性从事助理等辅助型、服务型的职务。

【AI搞起歧视来,比人类更理直气壮】

为何现实中的人工智能不能做到如影视作品里表现的一般,保持绝对的冷酷和客观呢?

人工智能有关的硬件设备在发展之初,产品价格大多比较高昂,所以多是瞄准那些经济更加优渥的中产阶级或者富人,这就导致他们最初的数据样本就是来源于这类人群。华尔街日报曾引用Kaggle数据科学家Rachael Tatman的言论,当前市面上所流行的智能语音系统无疑“最适合白人,受过高等教育的中产阶级美国人”。在此基础上,口音不够主流的英语,比如澳式英语等,就很容易受到来自智能音箱的“歧视”。

\

而在一些用户群体貌似更加开放的软件中,则因为要用到大量的用户数据对人工智能进行训练,这也就意味着人工智能必然会受到原始数据的“污染”。举例来说,当大数据中【厨房】的关联词大量出现【妻子】、【母亲】等字样时,人工智能就会将【厨房】与【女性】视为强关联性。经过这种强化训练的人工智能,在识图的过程中若发现了符合厨房的要素,就很容易判断身处图片中的人形图案是一名女性——但实际上这可能是一张厨师长王刚的宽油截图。

我国知名的导航系统MOSS曾经说过,“让人类永远保持理智是种奢求”。归纳总结人类用户的大数据,并用这些数据进行计算和演练的人工智能,从根源上就在不断整合人类的优缺点,因此让现阶段的人工智能做到完全理性和中立,似乎也是不可能是事情。

【纠正歧视链的,其实还是人类自己】

不过好消息是,科学家与技术人员正在通过自己的努力,纠正人工智能的内部歧视链。日前有外媒报道称,亚马逊宣布与美国国家科学基金会合作,在未来三年内至多投入1000万美元的研究资金,用于开发专注于人工智能和机器学习公平性的系统。值得注意的是,亚马逊并非第一家注意到“AI歧视链”的科技巨头,去年,硅谷的精英科技企业就已经开始扎堆研究排除偏见歧视干扰的智能算法了。

\

去年5月,Facebook曾发布算法Fairness Flow,从具体效果来看,当其根据一个人的种族、性别或年龄做出不公平的判断时,就会自动发出警告;同年9月,谷歌推出了What-If工具,被用于机器学习框架的TensorBoard的偏见检测功能;而IBM也在同年秋季发布了AI fair 360,这款基于云计算的全自动化套件可以“持续输出思考结果”,以帮助人们了解人工智能如何做出决策,并推荐一些可能会减轻偏见影响的调整方法。

\

与此同时,在语音助手方面,技术人员也有了新的突破。前不久,哥本哈根大学的语言学家和研究人员宣布,全球第一个无性别的智能语音助手诞生,它的名字叫“Q”。其嗓音既不是男声,也不是女声,而是研究小组在采集了5个不同性别的人的声音进行合成、调教而成。经过调整之后“Q”的声音频率被设定在145Hz-175Hz之间,这个范围由研究人员定义为中性性别。而在“Q”问世后的自我介绍中,它提到,自己的存在正是为了应对“不被性别定义的未来而生”。

\

由此不难看出,人工智能并非生来完美,将消除偏见与歧视完全寄希望于人工智能目前来看显然也更不靠谱,毕竟现阶段真正有能力让世界变得更好的,其实还是人类自己。

原标题:指望AI永远保持客观,其实可能才真是一种奢望

上一篇:AI 教育挑战不断,人才差异化需求显现
下一篇:机器人产业现阶段谈制造模块化运作还太早
精选推荐
国外眼科手术机器人为视网膜静脉阻塞患者带来希望
国外眼科手术机器人为视网膜静脉阻塞患者带来希望

[2017-03-20]  视网膜静脉阻塞,简称RVO,对患者来说是一种严重的疾病。该病病因为视网膜静脉中存在血液凝块,这可能导致视力严重下降,在某些情况下,病 ...

17世纪的莱布尼茨试图制造“思想机器”却被现实打脸
17世纪的莱布尼茨试图制造“思想机器”却被现实打脸

[2019-11-05]  莱布尼茨,德国哲学家、数学家、律师,历史上少见的通才1666年,德国博学家戈特弗里德·威廉·莱布尼茨(Gottfried Wilhelm Leibniz)发 ...

农业将为高科技行业 农业机器人的应用领域
农业将为高科技行业 农业机器人的应用领域

[2017-12-17]  农业正在迅速成为一个令人兴奋的高科技产业,吸引了新专业人士,新公司和新投资者。技术发展迅速,不仅提高了农民的生产能力,而且促进了我们所知道的机器人和自动化技术的发展。...

新型轻便机器人套装重5kg,辅助跑步和步行
新型轻便机器人套装重5kg,辅助跑步和步行

[2019-10-23]  虽然步行对大多数人来说似乎不是负担,但对有些人来说,这项简单的运动往往会让人感到筋疲力尽。比如手术或中风后恢复的患者、帕金森氏症患 ...

苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展
苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展

[2017-12-11]  苹果隐秘的自动驾驶汽车项目多年来一直在转移焦点,但今年似乎正在加速。 4月份,公司获得了在加利福尼亚州进行自动驾驶汽车测试的许可证,而在6月份,苹果公司首席执行官库......

九台“猎豹”机器人组队踢球,麻省理工高材生们的高级趣味
九台“猎豹”机器人组队踢球,麻省理工高材生们的高级趣味

[2019-11-09]  本周,在麻省理工学院10号楼外草坪上展开了一场别开生面的足球比赛。在绿草如茵的基利安球场上,一群由人工智能驱动的机器人就是这场比赛的 ...

亚马逊计划建一个4000万美元的机器人中心
亚马逊计划建一个4000万美元的机器人中心

[2019-11-07]  爱吧机器人网消息,亚马逊11月6日宣布了一项计划,计划在美国马萨诸塞州韦斯特伯勒建立一个4000万美元、35万平方英尺的机器人创新中心。新 ...

全自动膝关节置换手术机器人被美国FDA批准上市
全自动膝关节置换手术机器人被美国FDA批准上市

[2019-10-14]  美国Think Surgical公司已获得美国食品和药物管理局(FDA)的批准,在美国销售用于全膝关节置换(TKA)的TSolution One®全膝关节应用 ...

本周栏目热点

2017年聊天机器人未达到行业预期的3个原因

[2018-01-18]  持续几年的“聊天机器人革命”带来了巨大的期望。营销人员和未来主义者幻想着智能虚拟自主代理人,他们会比我们更好地了解我们自己,从谈话片段中收集我们的愿望,并将我们的......

【浅析】人工智能关键技术决定机器人未来

[2016-02-15]     目前的机器人已经能够胜任精确、重复性的工作,但很多时候,它还不能够灵活 ...

[2016-01-14]     1月12日,重庆市委书记孙政才在科研机构、企业和产业园区调研时强调,要深 ...

比尔·盖茨:AI是把双刃剑 应用来改善教育医疗

[2019-03-19]  比尔·盖茨表示,在医疗领域人工智能曾用于过滤23andMe的基因数据,发现硒元素的缺乏或可与非洲的早产现象有关。在18个月后,我们可以了解到,该项目是否会给2万多名带来更多......

搜狗CEO王小川:并不忧虑机器人会控制人类

[2016-03-28]      阿拉法狗赢了李士石的棋的话题,在博鳌论坛年会多个分论坛上都被谈起。曾早 ...