人工智能前路未卜
人工智能主題的科幻電影有很多,斯皮爾伯格十多年前拍過探討機器人與人類家庭建立羈絆的《人工智能》,也有沃卓斯基姐弟《黑客帝國》和卡梅隆《終結者》為代表的悲觀末世想象,而《機械姬》則是在英國拍攝的中低成本電影,沒有前面提及電影的戰爭場面,在冷峻畫風中探討人工智能這一命題。
機械姬海報
與人工智能緊密關聯的是圖靈測試,通過人類是否能夠辨認與之交流的對象是不是機器來測定人工智能是否有自主意識。什么是好的圖靈測試?《機械姬》中,機器人利用人類的同情心,以欺騙的方式獲得了自由。這一過程充分展現了機器人的自主意識,一是非外來指令的目的——自由,除了“自由”,沒有任何外來的信號促使她這么做;二是實現目的的自主手段——欺騙和表演,人類竟然中招了。簡而言之,本片片名可以改為《機械婊》或是《芯機婊》。
圖靈測試
除了圖靈測試,本片更由人類和人工智能的深入交流提出了一系列倫理問題。面對有感情、有自主意識的機器人,你是尊重他的“人權”,還是把它視為機器似的財產,可以隨意拆卸、刪除、重置升級?這頗有上帝和人類的關系的意味,影片中圖靈測試的7天(7個session)是對于上帝用7天創世的隱喻。機器人一旦跨過圖靈測試這道坎,一切不再簡單。人類從未直面過與自身有相同智能和意識水平的不同物種,更何況這個物種是人類自己創造出來的。
機械姬本體
《機械姬》則不止于此——首先人類自身會有身份認同危機。片中的男主角一度陷入自我認知危機,因為機器人和人類如此相似,你如何確定自己不是機器人,不是別人的試驗品?再者盡管通過圖靈測試,人工智能和人類還是有很大差異。機械姬雖有無限的知識和運算能力,且有自主意識,但其人格并不健全,缺乏道德感。對一切事物(包括人類和同類),表現出對待物品般的漠視和殘忍。而在人類與人工智能的爭斗中,一如本片和《終結者》、《黑客帝國》等電影,人類的愚蠢和感性令自己一敗涂地。
這一系列矛盾鑄成了對人工智能的悲觀情緒。一是人類無法控制并最終不敵他們,二是人類將遇到歷史上從未有過的倫理困境。這個悲觀的預期是否會成為現實,不得而知。
老板的本意
當今人工智能的主要成果是機器學習,也就是通過大量數據和統計模型來做出基于已有數據的預測。理論上,人工智能的實現路徑有兩種:一是增強計算能力;二是模擬人腦在自然界的進化過程,即是搭建出原始的大腦模型,通過類似自然界進化過程的方式讓原始大腦逐漸進化,讓人工智能的進化過程比幾十億年的自然選擇加快許多。
這種模擬進化發展是指數級的,自然界最高等的哺乳動物出現在最近的1000萬年,人類自20世紀以來的科技發展超過了以往歷史的總和。人工智能很可能把我們遠遠甩在了后面,屆時我們將無法理解它的邏輯。如果給它限制諸如“機器人三定律”之類的條件呢?這些條件總是有邏輯漏洞的。比如要讓人類快樂,不得傷害人類,最終像《黑客帝國》那樣把人類全部監禁起來,用Matrix來麻痹人類大腦,也是符合這些條件的決策。
可惜老板最后被做掉了。