编者按：为了防止有朝一日人工智能的发展会颠覆人类，包括 Elon Musk、Reid Hoffman 等诸位美国创新型科技行业的风云人物共同出资超过 10 亿美元，于 12月12日 宣布成立一家非营利的独立研究机构——OpenAI。该组织想要实现人工智能最先进的形态，并将研究结果向公众公开。Medium 专栏作家 Steven Levy 为此采访了 OpenAI 的领导者，看他们如何描述这个计划和它的未来愿景。
本文转载自微信订阅号“新智元”，编译作者为王婉婷和王嘉浚特此感谢。您可关注“新智元”（Al_era）了解更多人工智能最前沿资讯。
为了追求人工智能最先进的形态并将研究结果向公众公开，他们资助了一个新成立的组织，OpenAI。
像是 AI 领域的竞争还不够激烈一样——要知道 Google、Facebook、Microsoft 之类的巨头，甚至还有 Toyota 这样的汽车公司，都在急匆匆地招募研究人员——现在又有了一个新的组织渴求研究者，但又有一些不同之处。
它是一个非营利性的合资组织，叫做 “OpenAI”。今天它被宣布成立，宣称将会向公众公开它所有的研究成果，并且授予它所有的专利买断式授权（royalty-free，译者注：用来宣告一项具有版权、专利或著作权的产品能（永久或特定时段）被使用而不需要支付权利金或执照费（License fee），来自维基百科）。这一切都是为了确保有朝一日计算机超越人类智力的可怕前景，将不会变得像一些人恐惧的反乌托邦（dystopia）那样让人绝望。OpenAI 的资金来自于一群科技行业的权威，包括 Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston、以及 Amazon 云服务。他们承诺，将在未来很长一段时间内向这个组织投入总共超过 10 亿美元的资金。这个组织的联合董事长分别是 Elon Musk 和 Sam Altman（Y Combinator 的 CEO）。
众所周知，Musk 是 AI 的批判者，他加入这样一个组织并不让人意外。但 Y Combinator 是什么？没错，这就是那家 10年 前从一个夏季计划中脱胎而出的科技孵化器，当时以给 “拉面工资”、然后反馈美食建议的形式资助了 6 家初创企业，通过这种方式让它们能够快速扩张自己的业务。从那时起，YC 已经帮助创立了接近 1000 家公司，包括 Dropbox、Airbnb、以及 Stripe，并在最近设立了一个研究部门。过去的 2年 间，YC 一直由 Altman 领导着。他的公司 Loopt 曾经是 2005年YC 初创时孵化的公司之一，在 2012年 他以 4340 万美元的价格出售了这家公司。虽然 YC 和 Altman 都是 OpenAI 的创始人，并且 Altman 还担任了联合董事长的职务，但是 OpenAI 的确是一个与这些公司无关的、独立的合资组织。
本质上，OpenAI 是一个研究实验室，旨在削减两类组织的力量：包括因为拥有营利的超级智能系统（super-intelligence systems）而可能获得过多力量的大型组织，以及可能使用 AI 来获取力量甚至用来压迫本国公民的政府机构。这可能听上去非常唐吉坷德，但这个团队已经募集到了一批精英，包括 Stripe 前 CTO Greg Brockman（他将担任 OpenAI 的 CTO）以及世界一流的研究者 Ilya Sutskever。Ilya Sutskever 曾经为 Google 工作过，是在多伦多接受神经网络先驱 Geoff Hinton 指导的年轻科学家团队的一员。他将担任 OpenAI 的研究主管。其他的人马还有一群顶尖的天赋很高的年轻人，他们的简历中囊括了主要的学术团体、Facebook AI 以及 Google 在 2014年 收购的 AI 公司 DeepMind。OpenAI 还有一个星光熠熠的顾问委员会，顶尖的计算机科学家 Alan Kay 也名列其中。
OpenAI 的领导者们对我描述了这个计划和它的未来愿景。整个采访是分成两部分进行的，首先是与 Altman 的对话，然后是与 Altman、Musk、以及 Brockman 一起讨论的部分。我将整个访谈融合在一起，编辑成了简要清晰的格式。
这一切是怎么来的？
Sam Altman：我们大约是在一个半月以前启动 YC 研究部门的，但我一直以来都在思考 AI 的问题，Elon 也是。如果你想想对于世界的未来而言哪些东西最重要，我觉得一个善良的 AI（good AI）可能是这张列表上首当其冲的几项之一。所以我们创立了 OpenAI。这个组织正在尝试研发出一种对人类友好的 AI（human positive AI）。而且因为它是一个非营利性组织，全世界都能享用它的研究成果。
Elon Musk：就像你知道的那样，我对 AI 有所顾虑已经有一段时间了。我和 Sam，和 Reid [Hoffman]，和 Peter Thiel，还有其他人，谈了许多次。我们在思考，“有没有某种方法可以确保——或者提升——AI 以有益的方式发展的概率？” 作为几次谈话的结果，我们得出了创立一个 501c3 组织的结论（译者注：501 (c) 是美国国内税收法（Internal Revenue Code, IRC）中的一项条款（美国国内税收法, § 501 (c)），列出了 26 种享受联邦所得税 （federal Income tax）减免的非营利组织，501 (c)(3) 为宗教、教育、慈善、科学、文学、公共安全测试 （Testing for public safety）、促进业余体育竞争和防止虐待儿童或动物等七个类型的组织，来自维基百科）：一家非营利性组织，不具有让利润最大化的义务，可能会是一件不错的事情。同时，我们也会对安全性非常重视。
那么从哲学的角度上来说就有了一个重要的元素：我们希望 AI 能被广泛传播。有两种流派的思想——你是想要 AI 的数量很多，还是很少？我们认为可能数量多是一件好事。而且从你可以将它作为人类意愿的延伸这个方面来看，这也是一件好事。
人类意愿？
Musk：就像你自身有一个 AI 的延伸部分，每个人在本质上都与 AI 共生、而不是 AI 作为一个与你无关的大型中央智能（large central intelligence）。想象一下你将会怎么使用，比如说网络上的应用：你可以收发邮件、玩转社交媒体、你的手机上还有许多其它 app——它们让你变成了一个能做很多事的超人，而你并不会认为它们是与你无关的，你会觉得它们是你的延伸。所以我们想要尽力引导 AI 往这个方向发展。我们已经找到了一些和我们有相似理念的 AI 领域的工程师和研究者。
