https://epaper.shautonews.com/Img/2017/10/201710288ec06fd2b54f48838b2ce5323001e896.jpg
人类大脑拥有一些其他动物大脑所没有的功能,正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越
http://wap.shautonews.com/content/2017-10/29/003922.html

等待处理…

超越人类智能的可能与灾难

本报记者 林芸
2017/10/28

人类大脑拥有一些其他动物大脑所没有的功能,正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类,那么这种新兴的超级智能可能会极其强大,并且有可能无法控制。

正如现在大猩猩的命运更多地掌握在人类手中而不是自己手中一样,人类未来的命运也会取决于机器超级智能的行为。

《超级智能:路线图、危险性与应对策略》

作者:[英]尼克·波斯特洛姆

出版时间:2015年2月

《超级智能:路线图、危险性与应对策略》一书在2015年出版后,立即成为《纽约时报》畅销书,而且还得到比尔·盖茨、伊隆·马斯克等人的推荐。

在书中,作者指出,人类面临的最大生存威胁不是气候变化、传染病或者核武器,而是超越人类的机器智能即将出现。

作者尼克·波斯特洛姆是全球著名思想家、哲学家、超人类主义学家,并出任牛津大学人类未来研究院院长。其学术背景包括物理、计算机科学、数理逻辑以及哲学,并著有大约200种出版物,这些著作已被翻译成22种语言。他曾获得“尤金·甘农奖”(该奖项的获得者每年只有一名,他们来自哲学、数学、艺术和其他人文学科与自然科学领域)。

当机器智能超越了人类智能时会发生什么?人工智能会拯救人类还是毁灭人类?

在本书一开头,作者就讲述了一则寓言。一群麻雀正在建巢,这时候,一只麻雀弱弱地说:“我们太小,太软弱了。如果有一只猫头鹰帮我们建巢,生活会多么轻松啊!”这个想法得到了所有麻雀的赞同。它们开始寻找改变自身生存状况的救世主。

一只独眼老麻雀发出了不同的声音:“这肯定会导致我们的毁灭啊!在猫头鹰来到我们中间之前,难道我们不该先学习驯养猫头鹰的技术吗?”但是,它的警告没有得到响应。“驯养猫头鹰太复杂了,为什么不先找来猫头鹰,然后再考虑以后的事情呢?”

这则寓言是对人类追求人工智能的一种警告。在书中,作者提到,当智能超越人类的机器开始自己设计机器后,人类就会面对智能爆炸。在智能爆炸来临之前,人类就像是拿着炸弹玩的小孩子。书中写到:“超级智能是一个我们现在还没有准备好应对的挑战,而且很长时间之内都不会准备好。尽管我们把炸弹放到耳边能够听到微弱的滴答声,但是我们也完全不知道爆炸会在何时发生。智能爆发可能离我们还有几十年的时间。我们所面临的挑战是,保持我们的本性和常识,即使面对这个违反常情、有悖人性的挑战也依然镇定自若。我们需要发挥人类所有的智慧来战胜这个挑战。”

在《超级智能》一书中,作者重点介绍了向超级智能迈进的方式,包括人工智能、全脑仿真、生物认知、人机交互、网络和组织等,同时介绍了每种路径的设计思路,评估其实现超级智能的可行性。他得出的结论是:人工智能最有可能成为首先实现真正超级智能的方式。

作者认为,当AI的能力超越了人类科学家后,人工智能领域的研究将由机器在数字化时间尺度内执行,其进展将会相应地变得迅速,因此将存在一种智能暴涨的可能性。也就是说:我们将由没有计算机比人类聪明的时代,迅速演进到机器超级智能远远胜于所有生物智能的时代。

第一个经历这种智能暴涨的AI系统将变得极为强大,它会是世界上唯一的超级智能,能够非常迅速地开发许多其他技术,比如纳米分子机器人,并利用这些技术按照其自身喜好塑造生命的未来。

虽然超级智能对人类将是一个巨大的威胁,但作者认为,人类或许也有其自身的优势:是否可以建造一个种子人工智能,创造特定的初始条件,使得智能爆发的结果能够允许人类生存?在本书的后半部分,作者提出了这个假设,并详细阐述了人类对于超级智能出现时可以采取的策略。

在他看来,超级智能与人类和谐共处不仅是政治、哲学问题,它更是一个技术问题。“目前,机器仍然无法理解许多东西,因为它们还不够聪明。但是,一旦它们足够聪明,理解人类的痛苦和死亡并不是特别难的事情。”这或许会让它们学会尊重人类的价值。虽然不知道如何去做,但是作者认为:“道德理论必须强制编入机器人程序中。”

本书目标宏大,并且具有独创性,开辟了人工智能领域的新道路。它将带你开启一段引人入胜的旅程,把你带到对人类状况和智慧生命未来思索的最前沿。

节选

实现超级智能有很多可能的途径,这一事实应该能够增强我们的信心,让我们相信自己能够最终实现目标。即使一条途径受阻,我们仍然可以取得进步。不过有多条途径并不意味着会有多个目的地。即使我们通过一条非机器智能的途径首先实现了智能的显著增加,也不会将机器智能置之室外。事实恰恰相反,得到强化的生物性或组织性智能不但能加快科学技术的发展,还有可能加速实现更为激进的智能增强形式,例如全脑仿真和人工智能。

这并不是说,我们实现机器超级智能的途径是无关紧要的。我们所采取的途径可能会对最终结果产生重大的影响。即使我们最终获得的能力与实现途径没有太大关系,但如何使用这些能力——我们人类对这些能力的特性有着多少的控制力,可能很大程度上还要依赖于实现方法中的一些细节。例如,增强生物性或者组织性智能可能会增强我们预测风险的能力,并且设计出安全和有益的机器超级智能。

真正的超级智能(相对于小幅增强目前的智能水平而言)可能首先会通过人工智能的途径得以实现,这是看起来比较合理的猜想。然而,在这条道路上还有很多根本性的不确定因素,这使得我们很难严格地评估这条途径究竟有多长,或者在路途上到底还有多少障碍。全脑仿真的途径也有可能最快实现超级智能。要在这条道路上取得进步,主要需要我们取得递增式的技术进步,而不是理论突破,因此我们有理由相信这条途径也会最终取得成功。然而,看起来具有同样的可能性的情况是,即使我们在全脑仿真这条途径上迅速取得进步,但是首先到达终点的可能还是人工智能,这是因为我们有可能实现基于部分仿真的神经形态人工智能。

相关阅读

机器人的未来

[意]多梅尼科·帕里西

该书通过建造多种类人机器人,包括作为进化过程结果的机器人,出生时带有遗传基因但是在生活中习得了大多数行为的机器人,个体间存在差异的机器人,居住在特定社会、文化和经济系统中的机器人,以及居住在可以相互竞争或合作的群体中的机器人,试图为机器人的语言、政治、宗教、艺术、心理、家庭、社会等的建构和演化找到明确而详细的答案。

新智元:机器+人类=超智能时代

[中]杨静

该书深入分析了人工智能时代的技术和发展、机遇和挑战。在书中,近百位学界、技术界、产业界的专家从机器人、机器人学习、智能汽车、智能医疗、认知科学、高性能计算和“AI”投资等不同视角,对人工智能和机器人产业进行评析。

走近2050:注意力、互联网与人工智能

[中]集智俱乐部

该书从注意力的角度解读了包括互联网、人工智能、众包、人类计算、计算机游戏、虚拟现实在内的技术领域及其对社会生活的影响,还创造性地提出了一系列全新的概念:占意理论、图灵-参与者模型、“游戏+”时代、自动游戏设计、自动化创业等。所有这些将为我们理解技术与人类的关系、透视人类社会的未来发展和走向提供深刻的洞察。

上篇:没有了
下篇:没有了
分享到

© 2019 上海汽车报社有限公司

备案号:沪ICP备16052313号-2

↑ TOP