技术专家不相信 人工智能 会失去控制，但还是会有道德上的忧虑
随着《末日侵袭》这部电影情节的发展，它看起来也没有那么可怕。所谓的「回形针最多化」（paperclip maximiser）是牛津大学哲学家 Nick Bostrom 提出的一个思维实验。这个实验假设一个 人工智能 能够希望能收集尽可能多的回形针。它会想尽一切办法来收集回形针，并且会通过自我升级来找到收集回形针的新方法，它还会反抗一切阻止它做这件事情的企图。最后它“把整个地球和一部分宇宙空间都变成了一个回形针制造工厂”。这种明显非常愚蠢的试图想表达一个非常严肃的观点： 人工智能 不需要人类一样的行为和心理动机。它们可能不会出现人类常会犯的错误和偏差，但是会犯别的错误，例如执着于回形针。它们的目标已开始可能看起来是无害的，但如果 人工智能 能够自我复制并升级自己的性能就会非常危险了。即使是一个运行在一台不联网的计算机上的「被束缚的超级 人工智能 」也会竭尽全力地劝说它的主人让他获得自由。先进的 人工智能 不仅仅是一门新技术，而是一个对人类的威胁，Bostrom 说。
机器能够自己独立运行并不是一个新鲜想法，英国作家玛丽·雪莱在 1818 年就在她的小说《弗兰肯斯坦》中提出过这个想法。但直到 1965 年，人们才提出这种能够不断自我升级的 人工智能 概念。但最近人们在 人工智能 方面取得的进展又引起了新的担忧，Bostrom 就是一个 人工智能 威胁论的知名倡导者，他更喜欢把 人工智能 叫做「超级智能」，这也是他的新书的书名。
一些 人工智能 研究者给出了几个理由来证明为什么人们没必要恐惧 人工智能 ，最起码是在当前阶段。第一，吴恩达曾说过智能和感性能力以及意识是不同的。在 IBM 的 人工智能 道德小组工作的 Farancesca Rossi 也说过， 人工智能 「总有一天会觉醒并获得自己的思想」的想法并不现实。
第二，所谓的「智能爆发」也是不可能出现的，因为这需要一个 人工智能 在比它的前一个版本的智能升级更短的时间内升级出新的版本。但是大多数计算问题，即使是比 人工智能 简单得多的，在规模化的的时候也需要花很长的时间。
第三，即使机器能够从经验和环境中学习，它们也不会总在学习。例如一辆自动驾驶汽车并不是在每次驾驶的时候都在进行训练。相反地，深度学习系统在 神经网络 中建立一个执行特定任务的计算模型也需要花上好几天时间。这个模型可以被应用到一个执行机器中，例如汽车、无人机、app或者其他的地方。但是这些汽车和无人机并不能在实际工作时学习，相反地，他们在实际工作中得到的数据会被传回后方来改进模型，然后模型又会被再次应用。因此一个单一的系统不会在环境中学到「坏行为」，因为它在环境中并没有学习。
相关搜索(Beta) 人工智能 机器 如何变得富有 因为你我变得好富有 如何让自己变得更富有 江苏最富有的革命老区 人工智能 失业 人工智能导致失业 人工智能与失业率 工业革命 失业 人工智能与大失业时代
