AI之父Yoshua Bengio:AI令人担忧的未来
2018-11-21 线性资本 浏览量:
Yoshua Bengio是现代人工智能的大师。
(图片来自lyrebird.ai)
Bengio博士毕业于麦吉尔大学(1991年),之后在MIT和贝尔实验室做博士后,1993年以来在蒙特利尔大学担任计算机科学教授。著有三本书,超过500种出版物(超过135,000次引用),他开创了深度学习的先河,如使基于神经网络做自然语言处理,与Hinton、LeCun合称为AI三巨头。与其它两位不同的是,他并未投身业界而是留在学术界,在神经网络遇冷的时候依然坚持研究。2016年,他创建了Element AI,帮助大公司探索AI研究的商业应用。他的愿景是通过学习帮助揭示产生智能的原则,并为所有人的利益支持人工智能的发展。
Bengio最近在活动接受了MIT Tech Review编辑Will Knight的采访,对人工智能竞赛、国家间的合作、AI的军事用途和算法等方面发表了见解。
Knight:您如何看待国家间的人工智能竞赛?
Bengio:我不喜欢它。我认为这是不正确的做法。
我们可以集体参与竞赛,但作为一名寻求共赢的科学家,我认为不如考虑如何构建更智能的机器,并确保人工智能为尽可能多的人谋福。
Knight:有没有办法促进各国之间的更多合作?
Bengio:我们可以让发展中国家的人们更容易来到这里。这个问题很严重,比如非洲研究人员很难获得欧美加的签证,申请签证就像是买彩票,经常被各种借口拒绝。这完全不公平。他们已经很艰难地在用很少的资源进行研究,却无法访问这里,我认为这非常不公平。作为某种形式的补偿,我们将在2020年在非洲召开ICLR会议(一次重要的人工智能会议)。
包容性不是说着好听。人工智能在发展中国家的实际潜力更大——他们有更强烈的改进技术的需要,并且有不一样的需求。
Knight:您是否担心只有少数人工智能公司,如在西方,在人工智能领域占主导地位?
Bengio:是的,这是我们需要在人工智能研究中拥有更多民主的另一个原因。人工智能研究本身往往会导致权力、金钱和研究人员的集中。最好的学生想要去最好的公司,因为他们有更多的钱和更多的数据。这是一种不健康的模式。
Knight:关于人工智能的军事用途存在很多争议。你的观点?
Bengio:我坚决反对。
Knight:即使是AI的非致命用途?
Bengio:好吧,我并不是想阻止。但我认为我们需要让拥有杀手机器人这个行为变得不道德。我们需要改变文化,包括法律和条约。这是一条很长的路。
当然,你永远不能完全阻止它,人们会说,“一些流氓国家会发展这些东西。”我的答案是,一是我希望能让他们为此感到罪恶,二是,我们也可以见招拆招,建立防御技术。杀死无人机的防御性武器和针对人类的进攻性武器之间,差异巨大,但两者都可以使用AI。
Knight:AI专家不应该与军方合作以确保这种情况发生吗?
Bengio:如果他们有正确的道德价值观,那很好。但我并不完全信任军事组织,因为他们倾向于把使命凌驾于道德之上。但愿吧。
Knight:在新的人工智能研究方面,您最为兴奋的是什么?
Bengio:我认为我们需要考虑人工智能的艰难挑战,而不是对短期的渐进式进展感到满意。我不是说我想放弃深度学习。相反,我希望以此为基础,扩展它,达到能做推理、学习因果关系和探索世界以学习和获取信息。
如果我们真的想接近人类级AI,那将是另一场需要长期投资的竞赛,我认为学术界是接力下去的最佳场所。
Knight:你提到了因果关系 - 换句话说,不仅要掌握数据中的模式,还要抓住为什么会出现这种情况。它为什么重要,为什么这么难?
Bengio:面对复杂的世界,如果你有一个良好的因果处理问题的模型,那么即使面对不熟悉的问题,你也可以应对。 这是关键点。 我们人类能够将自己投射到与我们日常经验非常不同的情境中,机器不行,因为他们没有这些因果模型。
现在我们已经可以创建模型,但这还不够,需要的是能够发现因果模型的机器。在某种程度上,它永远不会是完美的。就像现实中也没有一个完美的因果模型;这也是为什么人类会犯很多错误,但与其他动物相比,我们做得更好。
目前对于这种模型,并没有真正好的算法,但我认为,如果投入足够的重视和努力,我们可以不断进步。
文章来源:MIT Tech Review
作者:Will Knight
精选推荐
从AI中窥探人性
[2018-01-03] 人们对人造智能的恐惧早已成为科幻书籍和电影的极好题材。但现在,一些同样的担忧开始影响关于现实世界AI技术的政策讨论。如果这样的担忧演变成为一种技术恐慌...
基于生物启发的机器人很容易适应丢失附属器官
[2017-12-17] 很多机器人被设计应用在危险环境,如灾难现场。在这些地方,他们的运动系统完全有可能被损坏。那这样会吓跑这些机器人吗?也许不是,如果它们像日本的东北和北海道大学创造的......
版权声明:
本站内容除了特别注明本站原创以外均来自互联网,文章观点不代表本站立场,文章版权归属原作者;如涉及版权问题,请联系smf101@163.com,我们会立即处理。谢谢配合!