代表天安時間當代藝術中心和Georg Jensen Hus，歡迎大家來參加第13期「玉河夜話」，這期夜話《人工智能 —— “美麗新世界”》是第三次直面科技與藝術的夜話。身處變革前夜，人類面臨前所未有的機遇和危機。科技帶給人們對未知的無限探索和遐想，同藝術一樣，它不是一個行業，而更多是一種信念。我們對科技與藝術話題的深入討論，也是由于個體的靈魂在面對劇烈的外界變化時，愈加需要敏感與自省。生而為人，我們的思維創造到底可以帶來怎樣的影響和改變？我們懷著既好奇又恐懼的心情，不斷發問.....
——翁菱
2017年3月28日，初春的涼風輕撫玉河，天安時間當代藝術中心與Georg Jensen聯合舉辦的「玉河夜話」也迎來了第三次關于科技與人文的思辨討論：《人工智能 —— “美麗新世界”》。這一次請到了中國移動研究院首席科學家馮俊蘭、北京大學前沿交叉學科研究院執行院長湯超、創新工廠董事長李開復，在三位先鋒的帶領下，探索“人工智能”現階段的發展與未來的預期……
如若仰望星空……
馮俊蘭：首先能來到「玉河夜話」特別榮幸，自從認識了翁菱她就一直夸我，讓我覺得特別開心，所以我代表“有感情的”科學家來到「玉河夜話」。現在人工智能太火了，我都不好意思跟別人說我是做這個的，感覺都在湊熱鬧一樣。跟李老師一樣，我從開始做語音識別到現在有20多年了，很開心人工智能變得這么火，可越火越覺得還是很迷茫。很多很有名的人也好，身邊人也好，都在表達自己的的觀點，每天低頭看你要完成的艱難、同事的工作、朋友的工作，都很艱難。別人擔憂人工智能會取代人類，我都不知道在哪里，每一步都很艱難。如果抬頭仰望星空，還是感嘆這300多年科學改變生活，生活方式這么大的幅度，這么快的速度，自己可能感知到很慢。回頭看看，再想想我們從人有文明開始想哲學、開始思考，到現在變化是非常巨大的。
馮俊蘭
AI帶給大家這些挑戰。如果AI沿著某一條路徑走，我們要重新思考很多現在認可了的了解世界的方式。我們了解世界的方式，可以用哲學方式看世界，可以用科學方式看世界，可以用藝術方式看世界。我們領域內的人每一天都在想如何讓科技再往前走一步，但是在技術圈外面，整個社會對這個東西接受到底是什么樣的程度？我自己相信它可以真正帶給我們美好的。
真正帶來美好的同時，其實有很多更短期的東西值得擔憂的。比如說運用人工智能技術的很多身邊的設備會涉及到我們隱私、安全。如果人工智能替代了很多社會工作，那短期內會造成社會的一個變化，是格局性的顛覆。我去年參加一個國際會議，當時有一個英國的記者發言。他說你們坐在一屋子里的幾千人是世界上很前沿的AI領域專家，大家都在做深度學習或與人工智能相關的領域研究，可一旦離開你們的世界，外面世界是很不一樣的。如果你們這圈人研究出的東西不能被外面的世界所理解，甚至可能會造成社會的割裂，那大家能否互相理解和溝通？所以短期來講，對我們這些從業者而言，挑戰遠遠大于大家想象的未來。
我自己大概對人工智能的看法就是這樣，今天一個版本，明天又是另外一個版本，而此時此刻，這就是我對于人工智能的看法。這20年過來，有那么多聰明的人、卓著的人，在研究這個技術，我也很感慨這個技術取得了如此大的進步，至少現在我覺得它帶給我們的都是非常正向的影響。
人工智能無處不在
李開復：我第一次接觸到“人工智能”概念是在80年代讀大二的時候，然后基本上做了一輩子和人工智能相關的事情。這個過程當中有一段時間，人工智能不太“火”，所以不太敢承認，實際上在微軟研究院的時候，微軟和谷歌里的很多技術就都是人工智能了。首先，我想解釋幾個常見的誤解，即人工智能實際上已經無所不在了，當淘寶推薦商品給你時候、百度給你搜索結果的時候、當今日頭條根據你點擊推送你想讀什么的時候、當滴滴幫助你安排哪個司機接的時候……背后都是人工智能。AI簡單來講就是一個非常大的算法，算法的細節解釋起來很困難，就不贅述了。簡單說，就是把數據丟進去，然后一個按鈕結果就出來了。算法決定了AI可以預測結果、可以分類、可以告訴你某個特定問題的答案。
李開復
人工智能的當下
李開復：人工智能確實非常厲害，非常有價值的，但它目前的應用也非常有限，所以我們從科幻小說和電影里得到的關于人工智能的認知可以暫時拋棄，那些顧慮很多都沒有事實依據，全憑想象。未來還是不可預知的，可直到那一天到來，誰也不會知道現在科幻構想出來的AI認知對不對，至少我們眼下的人工智能技術是絕無可能發展到值得被那樣憂慮的地步。
科幻作品的世界里，人類總充滿了自以為是。我們覺得人死了靈魂要留下，或者機器來了就會產生感情，從而要么愛上我們，要么就要統治我們、殺死我們。這真的是人類太自以為是了！機器就是機器，人就是人。當下的人工智能是絕對沒有感情的、沒有自我存在感、沒有自我意識、更絕對沒有藝術的，甚至沒有“理解”。這個“理解”是人們學習與機器的學習最大的區別。Alpha Go下圍棋很厲害，但它對“下棋”這件事并沒有感情，贏了也沒有勝利感，輸了也不會難受，更不能在下棋中得到博弈的樂趣。我們人類的學習和理解，不僅僅是要知道一件事情，而且要能夠解釋出來，“知其然亦知其所以然”，而對機器的學習來說，它所學習的東西，絕大部分是解釋不出來的。這些我們認為很基礎的智能，機器是沒有的。
科幻作品幻想的高度科技化的未來可不可能發生？當然可能，但還很遙遠。回到剛才講的，人工智能的算法在什么情況下可以產生價值？基本上四個條件。第一，要有非常大量的數據。AI沒有人類聰明，不能舉一反三，你要給它千萬上億的數據供其學習。第二，這個數據要有標注，不是隨意下載的數據，比如你需要明確給Alpha Go標注某盤棋這么下最后輸了、股票這么炒最后賠了……這些是需要人為標注的。大數據是有標注的，這點非常重要。第三，算法只能作用在單一領域內。我們人有常識用以交叉判斷信息，但是AI一次只能處理一件事情、作用在一個領域內，比如滴滴打車的運算程序無法幫你處理外賣訂單的追蹤，就是這樣的道理。第四，要有非常強力的計算機、非常好的算法、當然還有非常優秀的科學家。只有在這幾個前提成立以后，AI才可以產生魔術了。
10年里AI將取替50%人的工作
李開復：我剛才一下子把人工智能講得完全沒有任何意義了似的，像是說什么用處都沒有，限制又非常非常大，要大數據量，科學家什么的，那AI到底有什么用呢？ AI還是非常有用的，我認為今天已知的技術就能夠在未來的10年內取替社會50%的工作。
我們每天做的事情到底有多少不是單一領域內的重復性工作？不是數字化的、不是做簡單判斷的，而是需要經過漫長縝密的思考、需要研究、需要發明的？實際上，這種工作真的不多。藍領的工作最快受到波及，然后是白領的事務性工作，大部分的會計、記者、股票交易員……乃至醫生和護士的工作都會被AI取替。很多人認為醫生是體面有未來的工作，可是在人工智能時代，醫生很容易被取代，尤其是影像放射科這種，因為這些領域依靠的是大數據測算，而機器在這方面比人處理得更好，所以很快會被取代。保姆愛孩子、關懷孩子的能力機器無法做到，但是在照顧孩子安危上，機器的能力超過了人類，比如在第一時間報警、比如人臉識別能力上機器就強過人類。人工智能取代人類工作，這對社會有很大沖擊，它帶給人類對于未來的思考也是非常嚴峻的。人工智能在今天的技術依然非常有限的，但是即便是非常有限的技術，也能夠取代一大部分人類的工作。
創造性思維如何應對AI語境？
湯超：李開復老師說現在人類50%工作可以被人工智能所取代，而這些工作都是基于數據的判斷性工作，都是邏輯性很強的工作。那么藝術家就比較高興，因為藝術家的思維誰也跟不上。科學家可能先被取代，因為科學還是要用邏輯。藝術是不是不太用邏輯？藝術與科學最明顯的碰撞就是建筑領域，那么建筑師是如何思維的？建筑師思維有沒有一系列固定邏輯或者標準？建筑有沒有被機器模仿的可能？
湯超
朱小地：我還沒有想過這個問題。若作為一個一般性企業會計，我會把所有的相關數據分解整理進電腦里，然后根據客戶需要，我馬上會形成很多方案可以供其挑選。可是作為設計師，可能我們設計領域內的技術也在進步，通過人工智能設計方案可以更快更好地提交給客戶，但是我覺得作為一個真正想做自己事情的建筑師，雖然要給客戶的項目提出最稱心如意的答案，可我覺得那還是需要經過我自己的思考而形成的作品。當然學習別人的東西肯定是一個積累的過程，但歸根結底，過程還是靠自己的思考。我覺得可能作為一個有創意的建筑師，我還不會那么快被代替吧！
朱小地
人工智能可以進行創造嗎？
湯超：這是“人工智能”能不能進行創造的問題。
馮俊蘭：我們做人工智能的基礎就是解鎖人類智能。人類智能有哪些類別？我比較同意去年美國的《國家人工智能報告》里分出的6大類：學習能力，認知能力，語言能力，規劃能力，進化能力，和推理能力。現在的技術去解鎖這六個類別的人類智能有很多不同的方法。第一種就是類比，即機器看過了很多某事的例子，然后嘗試去做類似的事情，這就是一種解鎖。去年Alpha Go很熱，它所采用的是另一種解鎖方式——強化學習。舉例來說就是小孩子最初不知道怎么走到房間里，走一下碰一下再走一下再碰一下，然后也就走到了。我去走，去嘗試，碰到什么錯誤就更新什么計算模型，一直不斷地走，所以是自己和自己玩，自己和這個環境去玩，玩的過程中能力就自然而然強化了。
另一種是今年流行起來的學習方式，就是你剛才問的“能不能具備創造力？”，其實就是博弈論的方式。比如我們玩剪刀石頭布，最開始我不知道怎么玩，但只要參與就會產生一個對抗方式。也許我不知道什么是正確的結果，但我可以和你對抗，因為對抗能產生一個東西。比如機器可以生成一個東西，同時有一個藝術家創作的產物作為真實數據進行比較，再介入一個判別器去判別真實藝術家的產物和機器生成的產物。機器不斷生成，試圖讓判別器不能再判別哪個是人創造哪個是機器生成的，這是一種對抗性的方式。我們試圖解析語言能力的過程中，很多采取的都是這種方式。
然而這種生成是創新意義的生成，還只是重組狀的生成呢？這其中有很大的區別。機器發展到現在，依然不知道創作的意義什么。人的創新有一個意識上的驅動，想要創造某種東西。我覺得機器本身沒有這樣智能上的意識驅動，它只是單純在完成人下達的指令。所以回到建筑師、設計師、藝術家，會不會被取代的問題上，我自己不知道，也不如開復老師那么肯定，但是我相信人們工作當中的一些環節注定會被AI所取代。我想懂得使用AI的設計們一定會取代現在的設計師們。
AI會有感情嗎？
湯超：于淥老師是物理學家，從物理學來看，所有思維包括意識都有物質基礎，實際上就是神經原放電。神經原放電，機器也可以放電。你覺得以后機器會不會能達到比較高境界的思維階段？
于淥：我真的想過這個問題。在認知的幾個階段當中，“推理”大概是現階段技術可以揣摩的，但是“感情”應該是比較難。這就是說科學家了解感情以及情感如何生成。我自己感覺至少在現在這個階段里，情感這一步好像還不是人工可以代替的東西。
于淥
我們去年覺得Alpha Go是最好的，現在知道它只是很優秀，能夠被超越。我感覺將來有一種可能性，就是人機結合起來發展——這件事情能走多遠，我覺得現在不太能夠想象。如果人機能夠結合，直接對話，人工智能的發展會上一個臺階。這里面感情的因素，有沒有可能攙雜進去？那這件事情就會變得比較復雜，而且比較有趣。我自己感覺現在說的人工智能應用，還不是真正意義上的人工智能的應用，而是因為技術水平不高而受到了限制的產物，而感情這件事情現在還不能夠被真正機器化。不知道這一點業內是否有所考慮？
李開復：我非常同意于老師看法。感情這個事情是與生俱來的。人與人彼此的信任，彼此的愛，然后人與人之間的緣分，這些事情沒有道理，不是邏輯，這些感情其實是機器很難學習的，但是也不是說完全不能學習。除了Alpha Go這個下圍棋的AI外，還有一個專門玩德州撲克的。打牌和下圍棋不同，里面有騙人的詐術，還有那種恐懼的感覺，也有自信，還有通過對方的表達和流露的神態去揣測對方心情從而判斷對手還有什么牌……似乎機器應該打不過人，但是AI打敗了世界冠軍。這是為什么？機器并沒有了解人的感情，它只是把游戲模型化了，通過計算得出下一步的結果，原理也是“強化學習”。人在玩德州撲克的時候也通過計算，但我們算不了那么快，玩牌中產生的那些情感都是在彌補我們計算的不足，但要以此來證明機器也可以凌駕感情或者分析感情，是很極端和荒謬的。我個人是科學出身，但是我相信人是有靈魂的，我相信機器沒有辦法模仿到部分靈魂或者靈性和感性在里面。沒有科學根據說這句話，這是我個人感覺！
馮俊蘭：我覺得情感分很多級別。面對一個事情發展的好壞，人們的情緒由平靜到激動，這是一個標準劃分情感的方法。我所在的研究所觀測情感，我們每天給客服中心打電話，同時檢測通話過程中客服人員的情感與你的情感，如果監測到你的情感有變化，是會做一些特別處理的。
我不覺得簡單的情感跟其他的東西有太大區別。我通過一張臉就可以識別簡單的情感，也可以通過文字、你講話的內容、面部表情、甚至你說話的方式——因為人的情感會通過你的聲音表達，現在學術界有很多做這種情感的歸類處理，這是一個機器來識別情感的途徑。機器來產生情感，這種是不是能真的替代人情感的作用呢？我的女兒問，人為什么會有情感？情感是人沒有充分進化的一個東西，還是說我們人進化是必須需要情感才去主動進化的？這個我真的是不知道。但是我覺得讓AI來處理情感，我不覺得和處理別的東西有太多的不同。可能不能替代整個過程，但是很多級別或類型的情感應該是可以被識別和生成的。
AI會超越人類嗎？
朱欽祺David：剛剛開復說很多事情是不可能的，如果回到兩百年前，你說我在倫敦給一個上海人打電話，人們一定覺得你是瘋子，如果站在未來往回看今天人工智能的走向，也多半如此，因為我們人類一直在進步。可能今天的AI打撲克牌只是比照數據，如果將來有了視覺概念，可以分析人的表情數據，在這個方向繼續走下去，是不是AI終有一天會超越人類？
朱欽祺David Chu
李開復：邏輯判斷推理上人類已經被超越了。科幻小說想象的未來，難道任何人可以肯定回答它不會發生嗎？過去發生了很多奇跡，為什么以后不會再發生呢？這些奇跡當然會再發生，但不負責任的說法是在沒有理論依據的前提下盲目預測。
對我來講一個打撲克的AI能夠通過視覺分析把牌打得越來越好、甚至模擬表象情感……這都是可以預測將來會發生的。可是說一臺機器真的懂得人的感情，甚至會有自我存在的意識，想要要統治人類、傷害人類，這個我覺得現在還沒有足夠的科學根據。當我們人類已經面臨挑戰的時候，事務性工作從業者要失業了，那孩子們的未來怎么辦？每個人都做藝術家？還是從事服務業？人工智能對教育系統的打擊可能是災難性的。因為現在系統訓練出來的孩子大多數會被AI取代。人類有這么多迫在眉睫的問題需要思考，我們是不是應該把時間花在這些真實確切的問題上？而不要花太多時間想象縹緲的可能和不確切的問題……
AI讓人類變成高級生物？
田薇：人工智能的發生和不斷的演變在多大程度上會讓我們加深對自己的了解？人工智能帶來的社會變化，是不是將重新定義人類在做什么？以及到底在多大程度上，人工智能可以幫助人類在我們從來沒有想象過的能力前提下進行學習，從而讓我們轉化為一種徹底不同水平的生物？
田薇
馮俊蘭：深度學習有很多層次。物理世界需要處理很多不確定事件其本身所存在著的層次關系，因此人類才做多層次思考，反過來想想，人類每天就很少有時間做單一領域的深度學習。機器每天做深度學習，我們每天卻做淺層學習，這樣想也許真的不知道未來會怎樣發展……可是人腦是很強大的，人腦中的智能沒有被充分激活，所以我相信人的潛力。一個技術進步的時候，一定會在很大程度上拓展智能，同時也會讓人類重新改變自我思考的方式。當我們有了這樣一個技術之后，可能對人是一種真正意義上的警醒——人也許會變得更聰明、更智慧、更有愛。當有另外一種智能跟你匹敵的時候，也許可以激發人類全新模式的發展。
湯超：我簡單在技術上回答一下田薇的問題。“通過人工智能能不能實現對自己大腦的了解？”，這個問題現在已經在進行了。我們對大腦的理解非常少，技術手段雖然在進步但也很有限，但從另外一方面來講，我們對人工智能的研究也越來越深入。現在有相當一部分科學家想看看人工智能怎么處理的某些問題、怎么思維，以此作為啟發，看看人腦怎么處理這些問題的，比如說語言、影像識別、邏輯判斷……就是看一下我們大腦是怎么思維的。
人類的未來
翁菱：作為做藝術的人其實我不太熟悉科技的話題。人工智能也好，生物工程也好，實際上還是對我們人類的自我革新，或者說自我認知的革命。上一次湯超老師帶來了兩位生物科技領域的專家，分別是干細胞技術與基因編輯方面，而今天的人工智能也是在改變人類，這些技術都是對我們人類的自我革新的一種未來選擇。那么在生物科技與人工智能之間，是不是有很多交互？同樣作為前沿科技，哪一個可能把人類帶到一個更遠的境界？
大衛：我們一直講人類進化，人如果一直往前走，是不是有“超人”會代替現在的人類？畢竟是不同種類的人類不斷地進化，才有了我們今天的人類。那么再往前走的話，真正意義上的人工智能加上特別發達的生物科學，會不會造成一個“超人”而代替人類？這也是我的疑問。
湯超：就像李開復剛剛說的，任何事情都有可能，但預測它什么時候發生則非常困難。現在生物技術進步非常快，上次我和兩名北大的科學家來這里講基因編輯和干細胞技術，把很多藝術家都嚇壞了，因為科學家們說未來人可以不老不死。大家覺得不死的話，怎么還有藝術誕生呢！生物存在的意義似乎都被科技改變了一樣。捫心自問，科學家那時所言在未來并非不可能，只是不知道是多久之后的未來。我們能夠改變基因從而活的健康長久，不知道藝術的存在是否也可以順應著生成另外的形式而存在？
馮俊蘭：現在生物可以改變人的智商的是吧？
湯超：現在我們對人腦了解太少，不知道哪些基因是決定智商的。如果我們知道的話，改變智商應該是很容易的事。
馮俊蘭：當我們不能改變自己智商的時候，智商也就跟自己無關了，但是如果智商可以改變的話，我想如果世界上的人都將會變成更聰慧的人。屆時若再加上高級的外界設施，外界設備就成了人思維控制的延伸，會有非凡的結果出現。
于淥：我最后補充一點。關于人工智能和生物技術在倫理層面上的憂慮大部分來自科幻作品造成的恐怖心理，是一個很負面的東西。這也是因為科普的不充分所造成的結果。李開復也從最開始就說了那些想法都是無稽之談。大家不用過度憂慮，但是它不能從根本解決問題。為什么不能根本解決問題？因為每一個技術的進步都會帶來風險！而這個風險必須要可控。核裂變這個技術能生出原子彈和氫彈，后果是十分可怕的，甚至能夠毀滅人類，但是只要你知道這個東西的危險性在哪里、知道如何控制它，不濫用它，那么科技就是好的事情。我們要控制自己的欲望，而不是一概的反對科學技術進步。
人工智能和生物技術面對這個問題，答案就是不能失控。如果失控了勢必造成災難，所以我覺得研究這些前沿科技的人，同時要有一個社會責任——要和社會講清楚這個東西有怎樣的危險以及如何控制它。把這個問題妥善解決以后，就可以解除大家的一些擔憂。
翁菱：今晚的《人工智能 | “美麗新世界”》是第三次直面科技與藝術的「玉河夜話」。 去年的《人工智能 | 不朽還是終結？》，我們在夜話中初次碰觸未來科技的話題，即拋出了哲學意義上的宿命追問； 《生物科技 | 革命之路》則是關乎自我革新與自身探索的深入探討；這一次的「人工智能」討論在前兩次的基礎上，展開了對“美麗新世界”的想象。
科技發展的太快了，所以我們頻頻邀請不同領域、不同學科背景的大家來這里，一起圍爐夜話，希望可以跟你們了解或者學習到深一點的東西。對于我來說，組織參與這樣的討論都是出于好奇，然后更多的是出于恐懼。其實每次聽完科學家的討論之后，我也不知道這種對于未知的恐懼感是減弱還是增強！可能還得請大家經常來到玉河，指點我們的思想迷津，讓我們自以為很浪漫的藝術思維方式，可以多一些的層次，到達另外一種境界！謝謝三位！
END
天安時間當代藝術中心
info@beijingcenterforthearts.org
＋86 10 84084389
www.beijingcenterforthearts.com
北京市東城區平安大街玉河一號
