人类大脑拥有一些其他动物大脑所没有的功能，正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类，那么这种新兴的超级智能可能会极其强大，并且有可能无法控制。
正如现在大猩猩的命运更多地掌握在人类手中而不是自己手中一样，人类未来的命运也会取决于机器超级智能的行为。
《超级智能：路线图、危险性与应对策略》
作者：[英]尼克·波斯特洛姆
出版时间：2015年2月
《超级智能：路线图、危险性与应对策略》一书在2015年出版后，立即成为《纽约时报》畅销书，而且还得到比尔·盖茨、伊隆·马斯克等人的推荐。
在书中，作者指出，人类面临的最大生存威胁不是气候变化、传染病或者核武器，而是超越人类的机器智能即将出现。
作者尼克·波斯特洛姆是全球著名思想家、哲学家、超人类主义学家，并出任牛津大学人类未来研究院院长。其学术背景包括物理、计算机科学、数理逻辑以及哲学，并著有大约200种出版物，这些著作已被翻译成22种语言。他曾获得“尤金·甘农奖”（该奖项的获得者每年只有一名，他们来自哲学、数学、艺术和其他人文学科与自然科学领域）。
当机器智能超越了人类智能时会发生什么？人工智能会拯救人类还是毁灭人类？
在本书一开头，作者就讲述了一则寓言。一群麻雀正在建巢，这时候，一只麻雀弱弱地说：“我们太小，太软弱了。如果有一只猫头鹰帮我们建巢，生活会多么轻松啊！”这个想法得到了所有麻雀的赞同。它们开始寻找改变自身生存状况的救世主。
一只独眼老麻雀发出了不同的声音：“这肯定会导致我们的毁灭啊！在猫头鹰来到我们中间之前，难道我们不该先学习驯养猫头鹰的技术吗？”但是，它的警告没有得到响应。“驯养猫头鹰太复杂了，为什么不先找来猫头鹰，然后再考虑以后的事情呢？”
这则寓言是对人类追求人工智能的一种警告。在书中，作者提到，当智能超越人类的机器开始自己设计机器后，人类就会面对智能爆炸。在智能爆炸来临之前，人类就像是拿着炸弹玩的小孩子。书中写到：“超级智能是一个我们现在还没有准备好应对的挑战，而且很长时间之内都不会准备好。尽管我们把炸弹放到耳边能够听到微弱的滴答声，但是我们也完全不知道爆炸会在何时发生。智能爆发可能离我们还有几十年的时间。我们所面临的挑战是，保持我们的本性和常识，即使面对这个违反常情、有悖人性的挑战也依然镇定自若。我们需要发挥人类所有的智慧来战胜这个挑战。”
在《超级智能》一书中，作者重点介绍了向超级智能迈进的方式，包括人工智能、全脑仿真、生物认知、人机交互、网络和组织等，同时介绍了每种路径的设计思路，评估其实现超级智能的可行性。他得出的结论是：人工智能最有可能成为首先实现真正超级智能的方式。
作者认为，当AI的能力超越了人类科学家后，人工智能领域的研究将由机器在数字化时间尺度内执行，其进展将会相应地变得迅速，因此将存在一种智能暴涨的可能性。也就是说：我们将由没有计算机比人类聪明的时代，迅速演进到机器超级智能远远胜于所有生物智能的时代。
第一个经历这种智能暴涨的AI系统将变得极为强大，它会是世界上唯一的超级智能，能够非常迅速地开发许多其他技术，比如纳米分子机器人，并利用这些技术按照其自身喜好塑造生命的未来。
虽然超级智能对人类将是一个巨大的威胁，但作者认为，人类或许也有其自身的优势：是否可以建造一个种子人工智能，创造特定的初始条件，使得智能爆发的结果能够允许人类生存？在本书的后半部分，作者提出了这个假设，并详细阐述了人类对于超级智能出现时可以采取的策略。
在他看来，超级智能与人类和谐共处不仅是政治、哲学问题，它更是一个技术问题。“目前，机器仍然无法理解许多东西，因为它们还不够聪明。但是，一旦它们足够聪明，理解人类的痛苦和死亡并不是特别难的事情。”这或许会让它们学会尊重人类的价值。虽然不知道如何去做，但是作者认为：“道德理论必须强制编入机器人程序中。”
本书目标宏大，并且具有独创性，开辟了人工智能领域的新道路。它将带你开启一段引人入胜的旅程，把你带到对人类状况和智慧生命未来思索的最前沿。
节选
实现超级智能有很多可能的途径，这一事实应该能够增强我们的信心，让我们相信自己能够最终实现目标。即使一条途径受阻，我们仍然可以取得进步。不过有多条途径并不意味着会有多个目的地。即使我们通过一条非机器智能的途径首先实现了智能的显著增加，也不会将机器智能置之室外。事实恰恰相反，得到强化的生物性或组织性智能不但能加快科学技术的发展，还有可能加速实现更为激进的智能增强形式，例如全脑仿真和人工智能。
这并不是说，我们实现机器超级智能的途径是无关紧要的。我们所采取的途径可能会对最终结果产生重大的影响。即使我们最终获得的能力与实现途径没有太大关系，但如何使用这些能力——我们人类对这些能力的特性有着多少的控制力，可能很大程度上还要依赖于实现方法中的一些细节。例如，增强生物性或者组织性智能可能会增强我们预测风险的能力，并且设计出安全和有益的机器超级智能。
真正的超级智能（相对于小幅增强目前的智能水平而言）可能首先会通过人工智能的途径得以实现，这是看起来比较合理的猜想。然而，在这条道路上还有很多根本性的不确定因素，这使得我们很难严格地评估这条途径究竟有多长，或者在路途上到底还有多少障碍。全脑仿真的途径也有可能最快实现超级智能。要在这条道路上取得进步，主要需要我们取得递增式的技术进步，而不是理论突破，因此我们有理由相信这条途径也会最终取得成功。然而，看起来具有同样的可能性的情况是，即使我们在全脑仿真这条途径上迅速取得进步，但是首先到达终点的可能还是人工智能，这是因为我们有可能实现基于部分仿真的神经形态人工智能。
相关阅读
机器人的未来
[意]多梅尼科·帕里西
该书通过建造多种类人机器人，包括作为进化过程结果的机器人，出生时带有遗传基因但是在生活中习得了大多数行为的机器人，个体间存在差异的机器人，居住在特定社会、文化和经济系统中的机器人，以及居住在可以相互竞争或合作的群体中的机器人，试图为机器人的语言、政治、宗教、艺术、心理、家庭、社会等的建构和演化找到明确而详细的答案。
新智元：机器+人类=超智能时代
[中]杨静
该书深入分析了人工智能时代的技术和发展、机遇和挑战。在书中，近百位学界、技术界、产业界的专家从机器人、机器人学习、智能汽车、智能医疗、认知科学、高性能计算和“AI”投资等不同视角，对人工智能和机器人产业进行评析。
走近2050：注意力、互联网与人工智能
[中]集智俱乐部
该书从注意力的角度解读了包括互联网、人工智能、众包、人类计算、计算机游戏、虚拟现实在内的技术领域及其对社会生活的影响，还创造性地提出了一系列全新的概念：占意理论、图灵-参与者模型、“游戏＋”时代、自动游戏设计、自动化创业等。所有这些将为我们理解技术与人类的关系、透视人类社会的未来发展和走向提供深刻的洞察。
