來源：人工智能社區(qū)
迅猛發(fā)展的人工智能，已經(jīng)能夠替人類完成部分工作，究竟是解放人類還是有朝一日會取代人類？如何讓人工智能造福人類及其賴以生存的家園。
“GMIC2017北京大會”今天開幕，霍金專門為GMIC錄制的珍貴視頻，我們聽聽他對于人工智能的獨(dú)到見解。
在我的一生中，我見證了很多社會深刻的變化。其中最深刻，同時(shí)也是對人類影響與日俱增的變化就是人工智能的崛起。
簡單來說，我認(rèn)為強(qiáng)大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。
是好是壞，我不得不說我們依然不能確定。但我們應(yīng)該竭盡所能，確保其未來發(fā)展對我們的后代和環(huán)境有利。
我們別無選擇。我認(rèn)為人工智能的發(fā)展，本身是一種存在著問題的趨勢，而這些問題必須在現(xiàn)在和將來得到解決。
人工智能的研究與開發(fā)正在迅速推進(jìn)。也許科學(xué)研究應(yīng)該暫停片刻，從而使研究重點(diǎn)從提升人工智能能力轉(zhuǎn)移到最大化人工智能的社會效益上面。
基于這樣的考慮，美國人工智能協(xié)會（AAAI）于2008至2009年，成立了人工智能長期未來總籌論壇。他們近期在目的導(dǎo)向的中性技術(shù)上投入了大量的關(guān)注。但人工智能系統(tǒng)的原則依然必須要按照我們的意志工作。
跨學(xué)科研究可能是一條可能的前進(jìn)道路：從經(jīng)濟(jì)、法律、哲學(xué)延伸至計(jì)算機(jī)安全、形式化方法，當(dāng)然還有人工智能本身的各個分支。
文明所提產(chǎn)生的一切都是人類智能的產(chǎn)物，我相信生物大腦總有一天會達(dá)到計(jì)算機(jī)可以達(dá)到的程度，沒有本質(zhì)區(qū)別。因此，它遵循了“計(jì)算機(jī)在理論上可以模仿人類智能，然后超越”這一原則。
但我們并不確定，所以我們無法知道我們將無限地得到人工智能的幫助，還是被藐視并被邊緣化，或者很可能被它毀滅。的確，我們擔(dān)心聰明的機(jī)器將能夠代替人類正在從事的工作，并迅速地消滅數(shù)以百萬計(jì)的工作崗位。
在人工智能從原始形態(tài)不斷發(fā)展，并被證明非常有用的同時(shí)，我也在擔(dān)憂這樣這個結(jié)果，即創(chuàng)造一個可以等同或超越人類的智能的人工智能：人工智能一旦脫離束縛，以不斷加速的狀態(tài)重新設(shè)計(jì)自身。
人類由于受到漫長的生物進(jìn)化的限制，無法與之競爭，將被取代。這將給我們的經(jīng)濟(jì)帶來極大的破壞。未來，人工智能可以發(fā)展出自我意志，一個與我們沖突的意志。
很多人認(rèn)為人類可以在相當(dāng)長的時(shí)間里控制技術(shù)的發(fā)展，這樣我們就能看到人工智能可以解決世界上大部分問題的潛力。但我并不確定，盡管我對人類一貫持有樂觀的態(tài)度。
2015年1月份，我和科技企業(yè)家埃隆·馬斯克，以及許多其他的人工智能專家簽署了一份關(guān)于人工智能的公開信。目的是提倡就人工智能對社會所造成的影響，做認(rèn)真的調(diào)研。
在這之前，埃隆·馬斯克就警告過人們：超人類人工智能可能帶來不可估量的利益。但如果部署不當(dāng)，則可能給人類帶來相反的效果。我和他同在“生命未來研究所”擔(dān)任科學(xué)顧問委員會的職務(wù)，這是一個旨在緩解人類所面臨的存在風(fēng)險(xiǎn)的組織。
之前提到的公開信也是由這個組織起草的。這個公開信號召展開可以阻止?jié)撛趩栴}的直接研究，同時(shí)也收獲人工智能帶給我們的潛在利益，同時(shí)致力于讓人工智能的研發(fā)人員更關(guān)注人工智能安全。
對于決策者和普通大眾來說，這封公開信內(nèi)容翔實(shí)，并非危言聳聽。人人都知道人工智能，我們認(rèn)為這一點(diǎn)非常重要。比如，人工智能具有根除疾患和貧困的潛力，但是研究人員必須能夠保證創(chuàng)造出可控的人工智能。
那封只有四段文字，題目為《應(yīng)優(yōu)先研究強(qiáng)大而有益的人工智能》的公開信，在其附帶的十二頁文件中對研究的優(yōu)先次序作了詳細(xì)的安排。
在過去的20年或更長時(shí)間里，人工智能一直專注于建設(shè)智能代理所產(chǎn)生的問題，即：在特定環(huán)境下可以感知并行動的各種系統(tǒng)。
智能是一個與統(tǒng)計(jì)學(xué)和經(jīng)濟(jì)學(xué)相關(guān)的理性概念。通俗地講，這是一種能做出好的決定、計(jì)劃和推論的能力。基于這些工作，大量的整合和交叉孕育被應(yīng)用在人工智能、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)、控制論、神經(jīng)科學(xué)以及其它領(lǐng)域。
共享理論框架的建立，結(jié)合數(shù)據(jù)的供應(yīng)和處理能力，在各種細(xì)分的領(lǐng)域取得了顯著的成功。
例如語音識別、圖像分類、自動駕駛、機(jī)器翻譯、步態(tài)運(yùn)動和問答系統(tǒng)。
隨著這些領(lǐng)域的發(fā)展，從實(shí)驗(yàn)室研究到有經(jīng)濟(jì)價(jià)值的技術(shù)形成了良性循環(huán)。哪怕很小的性能改進(jìn)，都會帶來巨大的經(jīng)濟(jì)效益，進(jìn)而鼓勵更長期、更偉大的投入和研究。目前人們廣泛認(rèn)同，人工智能的研究正在穩(wěn)步發(fā)展，而它對社會的影響很可能還在擴(kuò)大。
潛在的好處是巨大的，甚至文明所產(chǎn)生的一切，都可能是人類智能的產(chǎn)物。但我們無法預(yù)測我們會取得什么成果，這種成果可能是被人工智能工具放大過的。
正如我說的，根除疾病和貧窮并不是完全不可能，由于人工智能的巨大潛力，研究如何（從人工智能）獲益并規(guī)避風(fēng)險(xiǎn)是非常重要的。
現(xiàn)在，關(guān)于人工智能的研究正在迅速發(fā)展，這一研究可以從短期和長期來分別討論。
短期擔(dān)憂:
1.無人駕駛。
從民用無人機(jī)到自主駕駛汽車。在緊急情況下，一輛無人駕駛汽車不得不在小風(fēng)險(xiǎn)的大事故和大概率的小事故之間進(jìn)行選擇。
2.致命性智能自主武器。
它們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當(dāng)和故障的過失應(yīng)該如何被問責(zé)。
3.隱私的擔(dān)憂。
由于人工智能逐漸開始解讀大量監(jiān)控?cái)?shù)據(jù)，會造成隱私上的擔(dān)憂，以及如何管理因人工智能取代工作崗位帶來的經(jīng)濟(jì)影響。
長期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險(xiǎn)。
隨著不遵循人類意愿行事的超級智能的崛起，強(qiáng)大的系統(tǒng)可能會威脅到人類發(fā)展。這種錯位是否會發(fā)生？如果會，那些情況是如何出現(xiàn)的？我們應(yīng)該投入什么樣的研究，以便更好的理解和解決危險(xiǎn)的超級智能崛起的可能性，或智能爆發(fā)的出現(xiàn)？
當(dāng)前控制人工智能技術(shù)的工具，例如強(qiáng)化學(xué)習(xí)，簡單實(shí)用的功能，還不足以解決這系統(tǒng)失控的問題。因此，我們需要進(jìn)一步研究來找到和確認(rèn)一個可靠的解決辦法來掌控這一問題。
近來的里程碑，比如之前提到的自主駕駛汽車，以及人工智能贏得圍棋比賽，都是未來趨勢的跡象，巨大的投入傾注到這項(xiàng)科技。我們目前所取得的成就，和未來幾十年后可能取得的成就相比必然相形見絀。
而且我們遠(yuǎn)不能預(yù)測我們能取得什么成就。當(dāng)我們的頭腦被人工智能放大以后，也許在這種新技術(shù)革命的輔助下，我們可以解決一些工業(yè)化對自然界造成的損害。關(guān)乎到我們生活的各個方面都即將被改變。
簡而言之，人工智能的成功有可能是人類文明史上最大的事件。
但人工智能也有可能是人類文明史的終結(jié)，除非我們學(xué)會如何避免危險(xiǎn)。我曾經(jīng)說過，人工智能的全方位發(fā)展可能招致人類的滅亡。比如最大化使用智能性自主武器。今年早些時(shí)候，我和一些來自世界各國的科學(xué)家共同在聯(lián)合國會議上支持其對于核武器的禁令。我們正在焦急的等待協(xié)商結(jié)果。
目前，九個核大國可以控制大約一萬四千個核武器，它們中的任何一個國家都可以將城市夷為平地，放射性廢物會大面積污染農(nóng)田，最可怕的危害是誘發(fā)核冬天，火和煙霧會導(dǎo)致全球的小冰河期。
這一結(jié)果使全球糧食體系崩塌，末日般動蕩，很可能導(dǎo)致大部分人死亡。我們作為科學(xué)家，對核武器承擔(dān)著特殊的責(zé)任。正是科學(xué)家發(fā)明了核武器，并發(fā)現(xiàn)它們的影響比最初預(yù)想的更加可怕。
我對人工智能的災(zāi)難探討可能驚嚇到了各位。很抱歉。但是作為今天的與會者，重要的是，在影響當(dāng)前技術(shù)的未來研發(fā)中，你們要清楚自己所處的位置。
我相信我們團(tuán)結(jié)在一起，來呼吁國際條約的支持或者簽署呈交給各國政府的公開信，科技領(lǐng)袖和科學(xué)家正極盡所能避免不可控的人工智能的崛起。
去年10月，我在英國劍橋建立了一個新的機(jī)構(gòu)，試圖解決一些在人工智能研究快速發(fā)展中出現(xiàn)的尚無定論的問題。“利弗休姆智能未來中心”是一個跨學(xué)科研究所，致力于研究智能的未來，這對我們文明和物種的未來至關(guān)重要。
過去我們花費(fèi)大量時(shí)間學(xué)習(xí)歷史，雖然深入去看，可能大多數(shù)是關(guān)于愚蠢的歷史。所以現(xiàn)在人們轉(zhuǎn)而研究智能的未來，是令人欣喜的變化。
我們對潛在危險(xiǎn)有所意識，我內(nèi)心仍秉持樂觀態(tài)度，我相信創(chuàng)造智能的潛在收益是巨大的。也許借助這項(xiàng)新技術(shù)革命的工具，我們將可以削減工業(yè)化對自然界造成的傷害。
我們生活的每一個方面都會被改變。我在研究所的同事休·普林斯承認(rèn)，“利弗休姆中心”能建立，部分是因?yàn)榇髮W(xué)成立了“存量風(fēng)險(xiǎn)中心”。后者更加廣泛地審視人類潛在問題，而“利弗休姆中心”的重點(diǎn)研究范圍則相對狹窄。
人工智能的最新進(jìn)展，包括歐洲議會呼吁起草一系列法規(guī)，以管理機(jī)器人和人工智能的創(chuàng)新。令人些許驚訝的是，這里涉及到了一種形式的電子人格。以確保最有能力和最先進(jìn)的人工智能盡到其應(yīng)盡的權(quán)利和責(zé)任。
歐洲議會發(fā)言人評論說，隨著日常生活中越來越多的領(lǐng)域日益受到機(jī)器人的影響，我們需要確保機(jī)器人無論現(xiàn)在還是將來，都為人類而服務(wù)。
向歐洲議會議員提交的報(bào)告，明確認(rèn)為世界正處于新的工業(yè)機(jī)器人革命的前沿。報(bào)告中分析了是否應(yīng)該給機(jī)器人提供作為電子人的權(quán)利。這等同于法人（的身份），也許有可能。
報(bào)告強(qiáng)調(diào)，在任何時(shí)候，研究和設(shè)計(jì)人員都應(yīng)確保每一個機(jī)器人設(shè)計(jì)都包含有終止開關(guān)。在庫布里克的電影《2001太空漫游》中，出故障的超級電腦哈爾沒有讓科學(xué)家們進(jìn)入太空艙，但那是科幻。我們要面對的則是事實(shí)。
奧斯本·克拉克跨國律師事務(wù)所的合伙人，洛納·布拉澤爾在報(bào)告中說，我們不承認(rèn)鯨魚和大猩猩有人格，所以也沒有必要急于接受一個機(jī)器人人格。但是擔(dān)憂一直存在。
報(bào)告承認(rèn)在幾十年的時(shí)間內(nèi)，人工智能可能會超越人類智力范圍，人工智能可能會超越人類智力范圍，進(jìn)而挑戰(zhàn)人機(jī)關(guān)系。
報(bào)告最后呼吁成立歐洲機(jī)器人和人工智能機(jī)構(gòu)，以提供技術(shù)、倫理和監(jiān)管方面的專業(yè)知識。如果歐洲議會議員投票贊成立法，該報(bào)告將提交給歐盟委員會。它將在三個月的時(shí)間內(nèi)決定要采取哪些立法步驟。
在人工智能發(fā)展進(jìn)程中，我們還應(yīng)該扮演一個角色，確保下一代不僅僅有機(jī)會還要有決心。在早期階段充分參與科學(xué)研究，以便他們繼續(xù)發(fā)揮潛力，幫助人類創(chuàng)造一個更加美好的的世界。這就是我剛談到學(xué)習(xí)和教育的重要性時(shí)，所要表達(dá)的意思。我們需要跳出“事情應(yīng)該如何”這樣的理論探討，并且采取行動，以確保他們有機(jī)會參與進(jìn)來。
我們站在一個美麗新世界的入口。這是一個令人興奮的、同時(shí)充滿了不確定性的世界，而你們是先行者。我祝福你們。
問答環(huán)節(jié)
中國科技大咖、科學(xué)家、投資家和網(wǎng)友發(fā)問霍金（在百萬網(wǎng)友的關(guān)注中篩選出的七個問題）
Q1：創(chuàng)新工場的CEO李開復(fù)：
互聯(lián)網(wǎng)巨頭擁有巨量的數(shù)據(jù)，而這些數(shù)據(jù)會給他們各種以用戶隱私和利益換取暴利的機(jī)會。在巨大的利益誘惑下，他們是無法自律的。而且，這種行為也會導(dǎo)致小公司和創(chuàng)業(yè)者更難創(chuàng)新。您常談到如何約束人工智能，但更難的是如何約束人本身。您認(rèn)為我們應(yīng)該如何約束這些巨頭？
A1：
據(jù)我了解,許多公司僅將這些數(shù)據(jù)用于統(tǒng)計(jì)分析,但任何涉及到私人信息的使用都應(yīng)該被禁止。會有助于隱私保護(hù)的是，如果互聯(lián)網(wǎng)上所有的信息，均通過基于量子技術(shù)加密，這樣互聯(lián)網(wǎng)公司在一定時(shí)間內(nèi)便無法破解。但安全服務(wù)會反對這個做法。
Q2：獵豹移動CEO傅盛：
“靈魂會不會是量子的一種存在形態(tài)？或者是高維空間里的另一個表現(xiàn)？
A2：
近來人工智能的發(fā)展，比如電腦在國際象棋和圍棋的比賽中戰(zhàn)勝人腦，都顯示出人腦和電腦并沒有本質(zhì)差別。這點(diǎn)上我和我的同事羅杰·彭羅斯正好相反。會有人認(rèn)為電腦有
靈魂嗎？對我而言，靈魂這個說法是一個基督教的概念，它和來世聯(lián)系在一起。我認(rèn)為這是一個童話故事。
Q3：百度總裁張亞勤：
“人類觀察和抽象世界的方式不斷演進(jìn)，從早期的觀察和估算，到牛頓定律和愛因斯坦方程式， 到今天數(shù)據(jù)驅(qū)動的計(jì)算和人工智能，下一個是什么？”
A3：
我們需要一個新的量子理論，將重力和其他自然界的其它力量整合在一起。許多人聲稱這是弦理論，但我對此表示懷疑，目前唯一的推測是，時(shí)空有十個維度。
Q4：斯坦福大學(xué)物理學(xué)教授張首晟：
“如果讓你告訴外星人我們?nèi)祟惾〉玫淖罡叱删停瑢懺谝粡埫餍牌谋趁妫鷷懯裁矗俊?br>A4：
告訴外星人關(guān)于美，或者任何可能代表最高藝術(shù)成就的藝術(shù)形式都是無益的。因?yàn)檫@是人類特有的。我會告訴他們哥德爾不完備定理和費(fèi)馬大定理。這才是外星人能夠理解的事情。
Q5：
“我們希望提倡科學(xué)精神，貫穿GMIC全球九站，清您推薦三本書，讓科技屆的朋友們更好的理解科學(xué)及科學(xué)的未來。”
A5：
他們應(yīng)該去寫書而不是讀書。只有當(dāng)一個人關(guān)于某件事能寫出一本書，才代表他完全理解了這件事。
Q6：微博用戶：
“您認(rèn)為一個人一生中最應(yīng)當(dāng)做的一件事和最不應(yīng)當(dāng)做的一件事是什么？”
A6：
我們絕不應(yīng)當(dāng)放棄，我們都應(yīng)當(dāng)盡可能多地去理解這個世界。
Q7：微博用戶：
“人類在漫漫的歷史長河中，重復(fù)著一次又一次的革命與運(yùn)動。從石器、蒸汽、電氣……您認(rèn)為下一次的革命會是由什么驅(qū)動的？”
A7:
（我認(rèn)為是）計(jì)算機(jī)科學(xué)的發(fā)展，包括人工智能和量子計(jì)算。科技已經(jīng)成為我們生活中重要的一部分，但未來幾十年里，它會逐漸滲透到社會的每一個方面，為我們提供智能地支持和建議，在醫(yī)療、工作、教育和科技等眾多領(lǐng)域。但是我們必須要確保是我們來掌控人工智能，而非它（掌控）我們。
Q8：音樂人、投資者胡海泉：
“如果星際移民技術(shù)的成熟窗口期遲到，有沒有完全解決不了的內(nèi)發(fā)災(zāi)難導(dǎo)致人類滅絕？拋開隕星撞地球這樣的外來災(zāi)難。”
A8：
是會有這個內(nèi)發(fā)災(zāi)難的。人口過剩、疾病、戰(zhàn)爭、饑荒、氣候變化和水資源匱乏, 人類有能力解決這些危機(jī)。但很可惜，這些危機(jī)還嚴(yán)重威脅著我們在地球上的生存，這些危機(jī)都是可以解決的，但目前還沒有。
來源：筆記俠
