爱吧机器人网 » 资讯 > 企业 > 正文

亚马逊放弃AI招聘工具,人工智能依然不能取代人类招聘员

对HR来说,最为重要的就是要招到对的人。高水平的面试官再加上多轮面试,往往会提高这次招聘的准确率。但多轮面试所提升的准确率,却是以牺牲工作效率为代价的。

而人工智能依赖于其强大的计算能力和大数据,能够进行自动化的人才甄选,包括自动化笔试、面试以及基于聊天机器人的甄选工具。如此,人工智能便可以成倍地减少企业搜寻人才的时间,面试的效率将会得到大幅提升,使得HR们能用更多的精力去找到“对的人”。

只不过,理想很美好,现实很骨感,在真正使用人工智能进行招聘的过程中,AI偏见问题依然是目前无法得以解决的一个挑战。

亚马逊放弃AI招聘工具,人工智能依然不能取代人类招聘员
前不久,美国《侨报》报道称,随着人工智能的快速发展,聊天机器人也开始被用在招聘求职中。具体而言,利用聊天机器人,公司在很短的时间内就能搜索到求职者,查看分析他们的技能,来匹配公司的招聘需要,从而安排下一步的面试程序。而求职者则需要和机器人斗智斗勇,方能得到进入第二轮面试的机会。

对此,希尔顿招聘副主管Sarah Smart表示:“人工智能会分析求职者的语调、眼神和回答的表情,来判断求职者是否对工作富有热情,从而来帮助我们筛选求职者。”当然,人工智能现在一般被用于低水平入门级别的工作招聘中,比如在零售季节性招聘时,大部分公司会选择使用人工智能聊天机器人。

AI招聘虽能起到一定作用,但依然有缺陷存在

虽然AI招聘已发展的愈发普遍,但也并不是所有相关工具的应用都能一直进行下去,亚马逊的秘密AI招聘工具就是一个例子。最近,该公司的机器学习专家从其工具中发现了一个大问题:他们的新招聘引擎并不喜欢女性。有知情人士透露,该团队自2014年以来一直在建立计算机程序,以审查求职者的简历,目的是自动化寻找顶尖人才。

讲真,自动化是亚马逊电子商务占市场主导地位的关键,无论是在仓库存储还是在推动定价决策上,人工智能都起到了一定的作用。除此以外,有知情人士透露,该公司正在研发一种实验性的招聘工具,试图通过人工智能技术对求职者进行一到五星级的评分,这有点类似于购物者对亚马逊商品进行评分一样。

知情人士表示,“每个公司都想要这个‘圣杯’,他们想要一个这样的引擎,可以从100份简历里排出前五名,然后直接进行雇佣。”只不过到了2015年,亚马逊逐渐意识到其新系统并未以性别中立的方式去评定这些候选人。

亚马逊放弃AI招聘工具,人工智能依然不能取代人类招聘员
而造成这种结果的原因在于亚马逊的计算机模型的培训。简单来说,该公司通过向其算法提供10年内公司收到的简历来审查求职者,但在这些简历资料中,大部分都是男性,这也反映出了整个科技行业中男性的主导地位。

因此,亚马逊的系统便“记住”了男性求职者录取的概率更高,降低对女性简历录取的概率。虽然亚马逊建立了某些程序,使其对一些特定术语保持中立,但这还是不能保证机器不会用其他方式来对求职者进行歧视性的分类。

知情人士称,由于高管们对这个项目不再抱有希望,亚马逊最终决定在去年年初解散了该团队。至于亚马逊在进行人员招聘时,不会完全依赖于该系统产生的排名,只会查看这一工具提出的建议。对此,亚马逊拒绝评论其招聘引擎或面临的挑战,但该公司表示,它致力于工作场所的多样性和平等。

亚马逊的失败,为其他巨头提供了一个教训

关于亚马逊实验性的AI招聘工具,可以说是一个机器学习局限性的案例研究,同时也为越来越多的大型企业提供了一个教训,包括希尔顿和高盛集团公司,这些企业都在寻求自动化部分招聘流程。

人才软件公司CareerBuilder 2017年的一项调查显示,大约55%的美国人力资源经理表示,人工智能将在未来五年内成为他们工作的常规部分。实际上,HR想要通过人工智能来提高工作效率,减轻工作负担,本就无可厚非。对很多雇主来说,他们长期以来一直的梦想就是利用技术扩大招聘网络,减少对招聘人员主观意见的依赖。但是,在卡内基梅隆大学教授机器学习的Nihar Shah等计算机科学家表示,要想完全实现,还有许多工作要做,比如,如何确保算法公平以及确保算法真正可解释。

说回亚马逊实验性的AI招聘工具,其开始时间正处于这家全球最大在线零售商发展的关键时期。由于低成本计算能力的激增,机器学习在技术领域越来越受欢迎。同时,亚马逊的人力资源部门即将开始大规模招聘,监管部门的文件显示,自2015年6月以来,该公司的全球员工人数增加了两倍多,达到575,700名员工。

亚马逊放弃AI招聘工具,人工智能依然不能取代人类招聘员
因此,亚马逊选择在其爱丁堡工程中心建立了这样一个已发展到十几个人的团队,旨在开发人工智能,以便快速抓取网络信息并发现值得招募的求职者。据悉,该团队创建了500个专注于特定工作职位的计算机模型。他们会教每个模型认识过去求职者简历中出现的约5万个术语。

但有知情人士表示,在这些算法看来,IT申请者具备的一些常见技能是没什么意义的,比如编写各种计算机代码的能力。相反,这项技术更倾向于男性工程师简历中常出现的动词,像“执行”(executed)和“控制”(captured)。

当然,性别偏见并不是唯一的问题。在一定程度上,支持模特判断的数据如果存在问题,就意味着不符合条件的申请人经常被推荐用于各种各样的工作。而这项技术中出现的随机结果也是亚马逊结束该项目的原因之一。

问题还是解决方案?

除亚马逊外,其他公司的这项技术还在向前发展,这反映出雇主们迫切希望利用人工智能进行招聘的期望。比如,盐湖城附近的一家创业公司HireVue的首席执行官Kevin Parker表示,自动化正在帮助企业减少对招聘网络的长期依赖。他的公司尝试在视频面试中分析求职者的语言和面部表情,以减少招聘对文字简历的依赖。

另外,像高盛这样的巨头也已经创建了自己的简历分析工具,试图将求职者与他们认为“最合适”的工作部门或职位进行匹配。而微软收购的LinkedIn是全球最大的专业求职平台,可根据其网站招聘信息算法为为雇主提供求职者的排名情况。但该公司副总裁John Jersin表示,其服务并不能取代传统的招聘人员。

亚马逊放弃AI招聘工具,人工智能依然不能取代人类招聘员
“我当然不会相信任何人工智能系统能够独立做出招聘决定,”他说道。“这项技术还没有完全准备好。”另外一些人士则表示,他们担心人工智能的透明度。美国公民自由联盟(ACLU)目前正尝试确立一条法律,允许对那些测试招聘网站的歧视算法的研究人员和记者进行刑事起诉。对ACLU来说,他们已经越来越关注算法的公平问题。

总的来说,和所有代码一样,人工智能的偏见程度暂时只能取决于对它进行编程的工程师及其训练数据。考虑到人工智能在以往人类招聘行为中的模式进行学习,那么就意味着在招聘过程中存在的任何人类偏见行为,它都会学习到。更糟糕的是,如果这种算法偏差没有被HR注意到,那么整个人工智能系统可以做的不仅仅是强化偏见,更可能通过不断对其优化,造成更严重的后果。

撇开招聘不谈,类似的基于人工智能的系统已经暴露出了令人担忧的偏见问题,举个例子,在查找犯罪分子时歧视穷人、在预测犯罪时黑人的犯罪可能性更大,等等。在这些方面需要注意的是,算法编程中一个简单的错误可能会比一个有偏见的人类招聘人员造成的伤害大得多,后果严重的多。

因此,HR以及企业们必须注意到,人工智能还没有准备好创建一个标准来识别最合适的求职者,并确保不以表面价值输出结果,毕竟他们只是一个“没血没肉、没意识”的机器。




上一篇:自动化机器人的先行者?他的小型工业机器人获过亿融资
下一篇:全栈全场景解决方案+两款芯片,华为首次发布 AI 发展战略
精选推荐
机器人iCub作为嵌入式AI的标准机器人研究平台的重要性
机器人iCub作为嵌入式AI的标准机器人研究平台的重要性

[2017-12-24]  机器人的研究在过去10年中得益于一个具有嵌入式人工智能(AI)的标准化开源平台——人形机器人iCub。iCub最初在意大利被创建,如今在欧洲、美国、韩国、新加坡和日本的实验室......

谷歌宣布搜索算法重大升级,用BERT模型理解用户搜索意图
谷歌宣布搜索算法重大升级,用BERT模型理解用户搜索意图

[2019-10-26]  谷歌刚刚宣布,其搜索引擎的核心算法正在进行一项重大升级,这项升级可能会改变10%的搜索结果排序。此项升级应用了自然语言处理技术(BERT ...

MIT用深度学习处理3D点云数据 应用于无人汽车等领域
MIT用深度学习处理3D点云数据 应用于无人汽车等领域

[2019-10-23]  如果你见过自动驾驶汽车,也许会对车顶上那个一直在旋转的圆柱体感到好奇。这是一个雷达传感器,无人驾驶汽车依靠它在现实世界中进行导航。 ...

美国人工智能公司Skymind进入福建全面开展业务
美国人工智能公司Skymind进入福建全面开展业务

[2017-12-11]  人工智能在当今这个时代对大家来说想必是非常熟悉的,这也是我国近十几年来一直追求的目标,未来的时间里这也将是全人类追求的目标。就目前来看,近年来,人工智能或在我国迎......

CES 2018:英特尔推出49量子位芯片争夺量子霸权
CES 2018:英特尔推出49量子位芯片争夺量子霸权

[2018-01-10]  在与Google、IBM的一场关于建立量子计算系统的马拉松比赛中,英特尔通过了一个关键的里程碑。近日,这个科技巨头已经推出了一个49个量子位 ...

17世纪的莱布尼茨试图制造“思想机器”却被现实打脸
17世纪的莱布尼茨试图制造“思想机器”却被现实打脸

[2019-11-05]  莱布尼茨,德国哲学家、数学家、律师,历史上少见的通才1666年,德国博学家戈特弗里德·威廉·莱布尼茨(Gottfried Wilhelm Leibniz)发 ...

国外眼科手术机器人为视网膜静脉阻塞患者带来希望
国外眼科手术机器人为视网膜静脉阻塞患者带来希望

[2017-03-20]  视网膜静脉阻塞,简称RVO,对患者来说是一种严重的疾病。该病病因为视网膜静脉中存在血液凝块,这可能导致视力严重下降,在某些情况下,病 ...

Waymo:人性和行为心理学才是无人驾驶最大的挑战
Waymo:人性和行为心理学才是无人驾驶最大的挑战

[2019-11-03]  自动驾驶汽车作为AI领域内最大的挑战之一,谷歌致力于其研发已有十余载,现在他们逐渐意识到,最困难的是如何让人们享受驾驶的乐趣。这是一 ...

本周栏目热点

将NLU技术引入企业服务领域,ForeTHought获900万美元A轮融资

[2018-12-07]  近日, ForeTHought宣布已经获得了由New Enterprise Associates领投的900万美元A轮融资,该公司希望将NLU技术引入企业领域,致力于帮助“知识类专员”,例如客户服务代表等......

星逻智能发布无人机综合操作系统UltraHive Mk 3“启”

[2019-07-10]  6月20-22日,2019世界无人机大会在深圳隆重举办,来自国内外的四百多家企业参会,千余架无人机精彩亮相。为赋能无人机而生的星逻智能自然不 ...

分拣机器人创企Covariant B轮融资4000万美元!打包准确率达99%

[2020-05-08]  昨日,机器人创企Covariant宣布完成4000万美元B轮融资,以将其机器人控制系统引入更多行业,并开发出更多有拾取、放置和卸载仓库中物体功能 ...

双足机器人Cassie获投5000万 致力于解决快递运送最后30米

[2018-04-17]  腿足机器人,一直以来都是一个神奇的存在。虽然近几年发展势头很猛,但除去应用于科研平台,很少有人把它真正应用于产业化(玩具类机器人除 ...

2019年亏损11亿元的寒武纪是否可以成为明日之芯?

[2020-04-03]  寒武纪是一家人工智能芯片设计商,主营业务为各类云服务器、边缘计算设备、终端设备中人工智能核心芯片的研发生产销售。目前,寒武纪的主要 ...