令人担忧的是，超级智能会不断自我提升，最终达到逃逸速度，从而摆脱束缚，呈几何数量级发展，从而远超人类所预料的智能程度。实现这一点还要很长时间。有些人还认为发生的可能性不大。但这一切如果成真，那将是十分骇人的。
这正是马斯克和阿尔特曼所努力抵制的前景。虽然如此，通过OpenAI，他们在加快实现超人智慧的进程。虽然他们相信，每个人都享有超人智能技术有助于遏制 人工智能走上歧途。布伦戴奇指出，所有公司都正全力全速地投入到尖端 人工智能技术的研发中，如果大家也意识到这一点，那么在 安全防范上就会不太上心。
讽刺的是，这些预防措施的重要程度取决于我们对人类推动技术进步的能力的乐观程度。基于过去的成功经验，马斯克和阿尔特曼有充分理由相信进步不会停滞不前。但其他人并不太确信马斯克和阿尔特曼的 人工智能威胁论。思考 人工智能的问题如同服用可卡因，又使我们兴奋，又会产生不必要的偏执。
无论以哪种方式，谷歌和Facebook正迅速推动 人工智能朝向新的层次发展。OpenAI至少以某些方式，对谷歌、Facebook等公司产生些许的压制作用。马斯克和阿尔特曼都明白 人工智能是不可阻挡的，因此他们唯一希望的是影响它的发展轨迹。(惜辰)
