爱吧机器人网 » 专题 > 观点 > 正文

对话马斯克:如何防止人工智能掌控世界

Musk:我们打算每周抽一到两个下午待在办公室里,来听取最新进展,给出我们的反馈,明确开发到了哪一步,是否已经接近某种危险的东西。 安全 问题我们会高度警觉,一旦看到潜在威胁,会立刻公之于众。

什么是不好的 人工智能 ?能举个例子么?

Altman:恩,很多科幻小说都有类似描述,比如说《终结者》。不过这离我们还很遥远,短期内不必杞人忧天。但有件事我认为会是一个挑战,就是大规模的自动化会引发失业潮。不过我不认为这是不好的 人工智能 。另外一个例子也是大家都常提到的,并且当下已经发生,就是 人工智能 程序一旦化身黑客,会比人类黑客更加防不胜防。

现在你们已经有眉目了么?

Altman:没有,我们的起点不比别人高,很长一段时间里,都要实验研究。目前还没有人知道怎样打造 人工智能 。开业第一天我们有8位研究人员到位 此项目在猎云网投融资平台进行融资

到位

上门服务交易平台

,剩下的会在接下来几个月里陆续加入。目前他们会使用YC的办公空间,等研究有了进展,就搬到自己的实验室去。他们会一个一个尝试自己的点子,写各种各样的软件,看看能不能推进 人工智能 的现有技术水平。

会借助外力么?

Altman:这个必须有。一个完全开源的项目最大的优势就是能和任何人合作,因为大家可以自由分享信息。我们很难和谷歌员工沟通合作,因为他们要遵守很多保密规定。

Sam,既然OpenAI一开始是在YC办公室进行的,你的公司可以利用OpenAI的研究成果么?

Altman:如果OpenAI开发出了真正伟大的技术,任何人、任何公司都可以免费使用。没有比那样更好的事儿了。但现在,我们正打算看看YC有哪些数据是可以提供给OpenAI的,Elon 也正打算看看Tesla和Space X公司有哪些可以共享的数据。

哪种数据可以共享呢?可以举个例子么?

Altman:太多了。打个比方,新闻网站Reddit上的所有数据都会是非常有用的。所有特斯拉无人驾驶汽车的视频信息都非常有价值。掌握大量数据至关重要。人类是怎样获得智慧的呢?可以通过读书。你读了一本书,你就聪明了一点。我读了一本书,我也获得了智慧。但旁人读的书,就不能让我俩获得智慧了。而就以特斯拉为例,只要一台特斯拉获得了某种情报,所有特斯拉都会立刻从中受益,变得更加智能。

Musk:总的来说,很多具体计划还没制定,因为公司才刚刚办起来,还处于胚胎阶段。不过,特斯拉有大量的真实数据,因为我们的车队每天都要跑上数百万英里。特斯拉关于现实世界的数据可能比这世上任何其他公司都要多。

图片2

人工智能 需要大量计算,基础设施怎么解决?

Altman:我们正在和Amazon Web Services合作,他们支援了大量的基础设施。

据说获得了10亿美元的承诺?

Musk:说句公道话,我们得到的承诺事实上不止10亿美元。我们不想给一个确切的数字,但可以这么说,所有博文当中提到的人,都作出了很大的贡献。

要花多长时间呢?

Altman:无论花费多少时间。我们会尽可能节俭,但是很可能这个项目会持续几十年之久,需要大量人力物力。

你们不需要盈利?

Musk:没错。这是一个不以盈利为目的的投资。将来我们有可能会有收入,就跟斯坦福研究院那样。但只是收入,不是利润。没有股票价格,也没有其他什么东西,股东们不会因此获得收益。我们认为这样挺好的。

Elon,你早些时候曾经投资了 人工智能 公司DeepMind,然后谷歌收购了这家公司,现在这是第二次尝试么?

Musk:我要说,我并不是通常意义上的投资者,我投资不是为了寻求经济回报。我会拿钱去帮助创立一家公司,也可能单单为了捧朋友的场于是投点钱,或者因为我相信某些东西,或者关心某些东西,于是我放了点钱进去。但是好吧,如果你非要说我对DeepMind投资了,那我这种“投资”是打引号的,我只是想要对 人工智能 多点了解,想特别留意它而已。

你会需要和Deep Mind 或者Facebook 、微软抢人才么?

Altman:目前为止我们的招聘顺风顺水。我们的公开性和自由性吸引了很多研究员,在我们这里,所有工作都能和任何人共享,而在其他实验室,是做不到这一点的。因此我们吸引了这样一个高质量的初始团队,完了这样强大的团队又帮我们吸引了更多人才。况且我们的使命,我们的愿景,我们的结构也都非常具有吸引力。

你们会聘请多少研究人员呢?几百个?

Altman:有可能。

我想回到之前一个话题,通过对 人工智能 的共享,我们可能不会遭受最糟糕的结果。但如果普及率高了,会不会有风险?潜在的风险会不会增加?

Altman:我不知道花了多少时间跟Elon还有其他一些人讨论这个话题,但直到现在我还不能百分百肯定。世上没有百分百的事情,对不对? 科技 方面的安保技术并不是特别好使。如果只有一方能够拥有,那么你怎么确定谁来拥有呢?谷歌?美国政府?中国政府?ISIS?还是其他的谁?世上永远不缺仁慈,但也永远不乏坏人。如果一个人的实力超过其他人10亿倍之多,会发生什么?

Musk:我认为最好的防御方式就是攻击,怕 人工智能 被滥用的话,就让尽可能多的人用上 人工智能 。每个人都有了 人工智能 的力量,力量才不会失衡。

Elon,你现在是两家公司的CEO,又是第三家公司的董事,应该没那么多空闲时间来投身一个新项目了吧?

上一页123下一页

上一篇:李彦宏:人工智能堪比工业革命
下一篇:下一个"苹果"将出现在人工智能领域?
精选推荐
麻省理工正研究植物机器人 让植物自主控制机器人
麻省理工正研究植物机器人 让植物自主控制机器人

[2018-12-08]  控制论通常指人类用机器人部件增强自己。我们听说过动物机器人或昆虫机器人,但我们很少听说植物机器人对吧?一个机器人其实是对植物有很大益处的,因为一般植物根本无法移动......

研究人员融合人类与AI的创造力 显著提高了深度学习的表现
研究人员融合人类与AI的创造力 显著提高了深度学习的表现

[2019-10-12]  由加拿大人工智能领域研究主席、滑铁卢大学系统设计工程教授Alexander Wong领导的一个团队开发了一种新型紧凑型神经网络家族,可以在智能 ...

苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展
苹果AI主管透露自动驾驶汽车项目关于机器学习方面的进展

[2017-12-11]  苹果隐秘的自动驾驶汽车项目多年来一直在转移焦点,但今年似乎正在加速。 4月份,公司获得了在加利福尼亚州进行自动驾驶汽车测试的许可证,而在6月份,苹果公司首席执行官库......

MIT用深度学习处理3D点云数据 应用于无人汽车等领域
MIT用深度学习处理3D点云数据 应用于无人汽车等领域

[2019-10-23]  如果你见过自动驾驶汽车,也许会对车顶上那个一直在旋转的圆柱体感到好奇。这是一个雷达传感器,无人驾驶汽车依靠它在现实世界中进行导航。 ...

17世纪的莱布尼茨试图制造“思想机器”却被现实打脸
17世纪的莱布尼茨试图制造“思想机器”却被现实打脸

[2019-11-05]  莱布尼茨,德国哲学家、数学家、律师,历史上少见的通才1666年,德国博学家戈特弗里德·威廉·莱布尼茨(Gottfried Wilhelm Leibniz)发 ...

国外眼科手术机器人为视网膜静脉阻塞患者带来希望
国外眼科手术机器人为视网膜静脉阻塞患者带来希望

[2017-03-20]  视网膜静脉阻塞,简称RVO,对患者来说是一种严重的疾病。该病病因为视网膜静脉中存在血液凝块,这可能导致视力严重下降,在某些情况下,病 ...

美国喷气推进实验室的AI驱动无人机挑战人类飞行员
美国喷气推进实验室的AI驱动无人机挑战人类飞行员

[2017-12-08]  随着无人机及其组件越来越小,效率越来越高,功能越来越强大,我们已经看到越来越多的研究开始让无人机自主飞行在半结构化的环境中,而不依赖于外部定位。 宾夕法尼亚大学在......

人工智能准确预测患者一年内的死亡风险,原理却无法解释
人工智能准确预测患者一年内的死亡风险,原理却无法解释

[2019-11-13]  图片来自BURGER PHANIE SCIENCE PHOTO LIBRARY美国最新研究显示,人工智能通过查看心脏测试结果,以高达85%以上的准确率预测了一个人在一 ...

本周栏目热点

2017年聊天机器人未达到行业预期的3个原因

[2018-01-18]  持续几年的“聊天机器人革命”带来了巨大的期望。营销人员和未来主义者幻想着智能虚拟自主代理人,他们会比我们更好地了解我们自己,从谈话片段中收集我们的愿望,并将我们的......

【浅析】人工智能关键技术决定机器人未来

[2016-02-15]     目前的机器人已经能够胜任精确、重复性的工作,但很多时候,它还不能够灵活 ...

比尔·盖茨:AI是把双刃剑 应用来改善教育医疗

[2019-03-19]  比尔·盖茨表示,在医疗领域人工智能曾用于过滤23andMe的基因数据,发现硒元素的缺乏或可与非洲的早产现象有关。在18个月后,我们可以了解到,该项目是否会给2万多名带来更多......

深兰科技方林博士:人工智能自主进化成为可能

[2018-12-07]  人工智能行业在国内迎来集中研究兴盛期,研究侧重点也从观点提出期,发展到了以谷歌Alpha Go和深兰Deepblue Go为代表的机器学习、深度学习独立研究期,并在智能语音识别交互......

[2016-01-14]     1月12日,重庆市委书记孙政才在科研机构、企业和产业园区调研时强调,要深 ...