《超級智能:路線圖、危險性與應對策略》(Superintelligence: paths, dangers, strategies),(英)尼克 波斯特洛姆(Nick Bostrom)著,張體偉、張玉青譯,中信出版社2015年2月版,332頁。
這本書是最近看的第二本有關人工智能發展危險性的書(第一本是《我們最后的發明》,前面有介紹,這兩本書都是Elon Mush馬斯克的推薦書籍),原著出版于2014年,作者出生于1973年,雖然很年輕,但自幼好學多思,才華橫溢,創建了牛津大學人類未來研究院并任院長,寫了近200本書,著作被翻譯成20多種語言,還得過一些大獎,是當代著名思想家。
這兄弟看起來就是比較高智商
這本書要比《我們最后的發明》深刻很多,相比之下,它不僅僅講人工智能(書中叫“超級智能”)可能給人類帶來滅絕的風險,還全面介紹了超級智能發展加速、實現超級智能的幾種技術手段(人工智能只是其中之一,其他的技術包括全腦仿真、生物技術、人機交互)、機器智能會以何種優勢強于人腦、超級智能爆發的動力演變、一旦超級智能爆發我們人類有沒有任何還手之力等等。最為難能可貴的是書里不光提風險,而且也思考了在超級智能研發過程中我們如何防控超級智能毀滅人類,手段包括監控,激勵,阻斷,馴化,國與國如何合作,以及如何給智能輸入對人類友好的價值觀等等。最后的部分極為抽象并要求較高的想象力,閱讀起來是一種智力考驗,任何一個小地方都可以展開寫一部科幻小說。