爱吧机器人网 » 专题 > 观点 > 正文

对话马斯克:如何防止人工智能掌控世界

Musk:我们打算每周抽一到两个下午待在办公室里,来听取最新进展,给出我们的反馈,明确开发到了哪一步,是否已经接近某种危险的东西。 安全 问题我们会高度警觉,一旦看到潜在威胁,会立刻公之于众。

什么是不好的 人工智能 ?能举个例子么?

Altman:恩,很多科幻小说都有类似描述,比如说《终结者》。不过这离我们还很遥远,短期内不必杞人忧天。但有件事我认为会是一个挑战,就是大规模的自动化会引发失业潮。不过我不认为这是不好的 人工智能 。另外一个例子也是大家都常提到的,并且当下已经发生,就是 人工智能 程序一旦化身黑客,会比人类黑客更加防不胜防。

现在你们已经有眉目了么?

Altman:没有,我们的起点不比别人高,很长一段时间里,都要实验研究。目前还没有人知道怎样打造 人工智能 。开业第一天我们有8位研究人员到位 此项目在猎云网投融资平台进行融资

到位

上门服务交易平台

,剩下的会在接下来几个月里陆续加入。目前他们会使用YC的办公空间,等研究有了进展,就搬到自己的实验室去。他们会一个一个尝试自己的点子,写各种各样的软件,看看能不能推进 人工智能 的现有技术水平。

会借助外力么?

Altman:这个必须有。一个完全开源的项目最大的优势就是能和任何人合作,因为大家可以自由分享信息。我们很难和谷歌员工沟通合作,因为他们要遵守很多保密规定。

Sam,既然OpenAI一开始是在YC办公室进行的,你的公司可以利用OpenAI的研究成果么?

Altman:如果OpenAI开发出了真正伟大的技术,任何人、任何公司都可以免费使用。没有比那样更好的事儿了。但现在,我们正打算看看YC有哪些数据是可以提供给OpenAI的,Elon 也正打算看看Tesla和Space X公司有哪些可以共享的数据。

哪种数据可以共享呢?可以举个例子么?

Altman:太多了。打个比方,新闻网站Reddit上的所有数据都会是非常有用的。所有特斯拉无人驾驶汽车的视频信息都非常有价值。掌握大量数据至关重要。人类是怎样获得智慧的呢?可以通过读书。你读了一本书,你就聪明了一点。我读了一本书,我也获得了智慧。但旁人读的书,就不能让我俩获得智慧了。而就以特斯拉为例,只要一台特斯拉获得了某种情报,所有特斯拉都会立刻从中受益,变得更加智能。

Musk:总的来说,很多具体计划还没制定,因为公司才刚刚办起来,还处于胚胎阶段。不过,特斯拉有大量的真实数据,因为我们的车队每天都要跑上数百万英里。特斯拉关于现实世界的数据可能比这世上任何其他公司都要多。

图片2

人工智能 需要大量计算,基础设施怎么解决?

Altman:我们正在和Amazon Web Services合作,他们支援了大量的基础设施。

据说获得了10亿美元的承诺?

Musk:说句公道话,我们得到的承诺事实上不止10亿美元。我们不想给一个确切的数字,但可以这么说,所有博文当中提到的人,都作出了很大的贡献。

要花多长时间呢?

Altman:无论花费多少时间。我们会尽可能节俭,但是很可能这个项目会持续几十年之久,需要大量人力物力。

你们不需要盈利?

Musk:没错。这是一个不以盈利为目的的投资。将来我们有可能会有收入,就跟斯坦福研究院那样。但只是收入,不是利润。没有股票价格,也没有其他什么东西,股东们不会因此获得收益。我们认为这样挺好的。

Elon,你早些时候曾经投资了 人工智能 公司DeepMind,然后谷歌收购了这家公司,现在这是第二次尝试么?

Musk:我要说,我并不是通常意义上的投资者,我投资不是为了寻求经济回报。我会拿钱去帮助创立一家公司,也可能单单为了捧朋友的场于是投点钱,或者因为我相信某些东西,或者关心某些东西,于是我放了点钱进去。但是好吧,如果你非要说我对DeepMind投资了,那我这种“投资”是打引号的,我只是想要对 人工智能 多点了解,想特别留意它而已。

你会需要和Deep Mind 或者Facebook 、微软抢人才么?

Altman:目前为止我们的招聘顺风顺水。我们的公开性和自由性吸引了很多研究员,在我们这里,所有工作都能和任何人共享,而在其他实验室,是做不到这一点的。因此我们吸引了这样一个高质量的初始团队,完了这样强大的团队又帮我们吸引了更多人才。况且我们的使命,我们的愿景,我们的结构也都非常具有吸引力。

你们会聘请多少研究人员呢?几百个?

Altman:有可能。

我想回到之前一个话题,通过对 人工智能 的共享,我们可能不会遭受最糟糕的结果。但如果普及率高了,会不会有风险?潜在的风险会不会增加?

Altman:我不知道花了多少时间跟Elon还有其他一些人讨论这个话题,但直到现在我还不能百分百肯定。世上没有百分百的事情,对不对? 科技 方面的安保技术并不是特别好使。如果只有一方能够拥有,那么你怎么确定谁来拥有呢?谷歌?美国政府?中国政府?ISIS?还是其他的谁?世上永远不缺仁慈,但也永远不乏坏人。如果一个人的实力超过其他人10亿倍之多,会发生什么?

Musk:我认为最好的防御方式就是攻击,怕 人工智能 被滥用的话,就让尽可能多的人用上 人工智能 。每个人都有了 人工智能 的力量,力量才不会失衡。

Elon,你现在是两家公司的CEO,又是第三家公司的董事,应该没那么多空闲时间来投身一个新项目了吧?

上一页123下一页

上一篇:李彦宏:人工智能堪比工业革命
下一篇:下一个"苹果"将出现在人工智能领域?
精选推荐
通过对抗性图像黑入大脑
通过对抗性图像黑入大脑

[2018-03-02]  在上面的图片中,左边是一张猫的照片。在右边,你能分辨出它是同一只猫的图片,还是一张看起来相似的狗的图片?这两张图片之间的区别在于, ...

如何让人工智能机器人快速自我纠正错误并吃一堑长一智?
如何让人工智能机器人快速自我纠正错误并吃一堑长一智?

[2017-08-23]  莱斯特大学数学系的研究人员在《Neural Networks》杂志上发表了一篇文章,概述了新算法的数学基础,可以使人工智能收集错误报告并立即纠正,而不影响现有技能 ,同时还会积......

揭秘达芬奇手术机器人
揭秘达芬奇手术机器人

[2018-04-19]  达芬奇手术系统是由美国Intuitive Surgical公司制造的机器人手术系统。美国食品和药物管理局(FDA)于2000年通过该标准,旨在利用微创手段 ...

国外眼科手术机器人为视网膜静脉阻塞患者带来希望
国外眼科手术机器人为视网膜静脉阻塞患者带来希望

[2017-03-20]  视网膜静脉阻塞,简称RVO,对患者来说是一种严重的疾病。该病病因为视网膜静脉中存在血液凝块,这可能导致视力严重下降,在某些情况下,病 ...

谷歌在中国成立一个新的人工智能(AI)研究中心
谷歌在中国成立一个新的人工智能(AI)研究中心

[2017-12-13]  谷歌正在中国建立一个新的人工智能(AI)研究中心,希望进一步扩展到中国,以充分利用中国高度重视的人工智能技术。人工智能是目前地球上最具竞争力的领域之一,亚马逊,微软......

基于生物启发的机器人很容易适应丢失附属器官
基于生物启发的机器人很容易适应丢失附属器官

[2017-12-17]  很多机器人被设计应用在危险环境,如灾难现场。在这些地方,他们的运动系统完全有可能被损坏。那这样会吓跑这些机器人吗?也许不是,如果它们像日本的东北和北海道大学创造的......

智能农业:种地的事儿未来全交给这些机器人吧
智能农业:种地的事儿未来全交给这些机器人吧

[2019-12-07]  SRC公司创始人Sam与温波尔庄园农场经理Callum Weir以及监控机器人Tom总部位于英国的农业科技初创公司SRC(Small Robot Company),正在 ...

CES 2018:英特尔推出49量子位芯片争夺量子霸权
CES 2018:英特尔推出49量子位芯片争夺量子霸权

[2018-01-10]  在与Google、IBM的一场关于建立量子计算系统的马拉松比赛中,英特尔通过了一个关键的里程碑。近日,这个科技巨头已经推出了一个49个量子位 ...

本周栏目热点

创新推动以机器人为代表的智能装备制造业发展

[1970-01-01]    目前,中国已有机器人生产企业100多家,国内包括天津、重庆、上海、江苏以及广州等地,在当地政府部门的强力支持下都在大力发展自动装 ...

Jeff Dean:谷歌翻译API才9月就已获利

[2017-09-30]  很多人看来,人工智能一直都是停滞不前的,虽然研发出来的成果不少,但是接近现实,真正投放入现实的,却为数不多,不过在2016年9月,谷歌 ...

【专访】佛山需稳扎机器人等市场 期待更多本土跨国公司

[2015-12-10]     佛山处在改革开放前沿,此次跨国调研活动动作快,一定会引起全国关注。12月 ...

[1970-01-01]    机器和机器人把人从繁重的体力劳动和枯燥的工作中解放出来,去干更重要的工作,或者让人成为监工,监督机器人干活。这是一个美好的前景 ...

[2016-09-03]   60年多前的夏天,麻省理工学院里的几个计算机系的教授聚在一起,第一次提到了人工智能这个词。当时他们以为,用一个夏天的时间,就可 ...