幾千年來(lái)，人類的倫理道德問(wèn)題，從神學(xué)著作，到康德的純粹哲學(xué)理論爭(zhēng)辯，很難用簡(jiǎn)單的公式去表達(dá)。在標(biāo)準(zhǔn)版的電車問(wèn)題中，一輛有軌電車失去了控制，即將造成五人死亡。有軌電車可以通過(guò)改變鐵軌上的道岔來(lái)改變方向。然而，這樣會(huì)導(dǎo)致一名工人被重新改變了方向的電車撞死。為了挽救五個(gè)人的生命而使鐵軌改道，從而造成一名工人的死亡，在道德上是否允許？根據(jù)康德的觀點(diǎn)，如果不改變電車的方向，任何人都不能為了救那五個(gè)人而危害那一位工人。從功利主義的觀點(diǎn)來(lái)看，一個(gè)人必須考慮他的行為的后果和總效用，即對(duì)大多數(shù)人來(lái)說(shuō)有最大的好處，因此他必須改變電車的方向。倫理理論最終導(dǎo)致了不同的解決方案。
隨著人工智能技術(shù)與理論的進(jìn)步，其道德倫理問(wèn)題也被推進(jìn)更富有爭(zhēng)議的話題：
從
1999－2018 年的 Web of Science數(shù)據(jù)庫(kù)（以下簡(jiǎn)稱WOS數(shù)據(jù)庫(kù)）中，無(wú)論是以“人工智能倫理”為主題的文獻(xiàn)還是以“機(jī)器人倫理”為主題的文獻(xiàn)都呈現(xiàn)出顯著的增長(zhǎng)趨勢(shì)。特別是近十年來(lái)，相關(guān)文獻(xiàn)出現(xiàn)了井噴式增長(zhǎng)1999 至 2015 年文獻(xiàn)量的總和。這樣高速的增長(zhǎng)趨勢(shì)，表示出
越來(lái)越多的學(xué)者意識(shí)到人工智能倫理研究對(duì)于社會(huì)發(fā)展的重要意義與積極作用，探索人工智能倫理研究的知識(shí)情報(bào)有助于人工智能產(chǎn)業(yè)以及人類社會(huì)的健康發(fā)展。
（來(lái)源：WOS數(shù)據(jù)庫(kù)）
（來(lái)源：WOS數(shù)據(jù)庫(kù)）
人工智能是造福人類的利器，還是毀掉世界的終極惡魔？
機(jī)器人的英文單詞是“Robot”, 最早由捷克作家卡雷爾·恰佩克在其科幻作品中首創(chuàng), 原意是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”。2017年8月21日，人工智能公司的 116 位創(chuàng)始人和首席執(zhí)行官們，給聯(lián)合國(guó)寫了一封公開(kāi)信，希望禁止“殺手機(jī)器人（即自動(dòng)化武器，如無(wú)人機(jī)、無(wú)人戰(zhàn)車、哨 兵機(jī)器人、無(wú)人駕駛軍艦等）”的研發(fā)與使用。他們認(rèn)為，這些機(jī)器人有成為恐怖武器的可能。獨(dú)裁者和恐怖分子有可能利用這些武器對(duì)無(wú)辜人群使用，或以其他不可取的方式使用。
然而，2017年10月15日，英國(guó)政府在發(fā)布的《英國(guó)發(fā)展人工智能》報(bào)告中指出，人工智能具有改善教育醫(yī)療保健、提高生產(chǎn)力的巨大潛力，該報(bào)告從數(shù)據(jù)、技術(shù)、研究以及政策的開(kāi)放與投入等方面，對(duì)人工智能發(fā)展提出了18條建議，意欲使英國(guó)成為人工智能的世界領(lǐng)導(dǎo)者。英國(guó)不是唯一重視人工智能大戰(zhàn)的國(guó)家，各國(guó)都在熱情的擁抱這一項(xiàng)技術(shù)，每項(xiàng)技術(shù)發(fā)明都飽負(fù)爭(zhēng)議，歷史告訴我們，技術(shù)進(jìn)步確實(shí)讓人類生活更加的自由了。
人工智能的善惡到底該如何評(píng)價(jià)？我們應(yīng)當(dāng)以何種態(tài)度對(duì)待人工智能的發(fā)展？
學(xué)術(shù)界有關(guān)人工智能道德判斷的爭(zhēng)論人工智能的道德判斷需要區(qū)分兩個(gè)問(wèn)題 ：其一，人工智能本身的道德評(píng)價(jià)問(wèn)題；其二，人工智能研發(fā)與應(yīng)用后果的善惡評(píng)價(jià)問(wèn)題。對(duì)人工智能進(jìn)行道德判斷的關(guān)鍵問(wèn)題沒(méi)有解決，即未對(duì)人工智能本身善惡評(píng)價(jià)問(wèn)題，與人工智能的研發(fā)與應(yīng)用所帶來(lái)的后果的善惡評(píng)價(jià)問(wèn)題進(jìn)行區(qū)分。后一問(wèn)題解決的關(guān)鍵還是在人類自身。但是前一問(wèn)題的解決，我們就不能基于現(xiàn)有的倫理道德框架對(duì)其進(jìn)行評(píng)判，而應(yīng)對(duì)傳統(tǒng)的科技倫理進(jìn)行批判性反思。
[1]目前有關(guān)人工智能的善惡評(píng)價(jià)可謂此起彼伏，莫衷一是。
總體而言，學(xué)術(shù)界主要存在以下三種立場(chǎng)與觀點(diǎn)：
第一種樂(lè)觀主義立場(chǎng)。
持此種立場(chǎng)的專家學(xué)者認(rèn)為，人工智能只是一項(xiàng)手段與工具，本身無(wú)所謂“善與惡”“好與壞”，關(guān)鍵在于使用它的人類本身，對(duì)人工智能的未來(lái)發(fā)展前景持樂(lè)觀主義態(tài)度，總體而言，人工智能的研發(fā)與廣泛應(yīng)用對(duì)人類發(fā)展利大于弊，能產(chǎn)生巨大的經(jīng)濟(jì)效益與社會(huì)效益。
一般而言，樂(lè)觀主義立場(chǎng)大多是由一些與人工智能研發(fā)與應(yīng)用相關(guān)，或出于自身利益考慮的人工智能界人士，或出于對(duì)科學(xué)技術(shù)盲目崇拜的科學(xué)主義者所堅(jiān)持的，其缺陷在于片面地、孤立地看待人工智能的積極方面，比如能夠產(chǎn)生巨大的經(jīng)濟(jì)與社會(huì)效益，重構(gòu)包括金融、醫(yī)療、教育、交通等幾乎所有的行業(yè)，從而推動(dòng)人類生活方式的整體變革。他們有意或無(wú)意地忽視或者掩蓋人工智能的消極作用，比如殺人機(jī)器人的誕生將會(huì)給人類帶來(lái)安全威脅以及人類過(guò)度依賴人工智能文明可能造成人類文明的退化問(wèn)題，等等。
第二種中立主義立場(chǎng)。
持此種立場(chǎng)的專家學(xué)者承認(rèn)人工智能本身存在“作惡”的可能，它的研發(fā)與應(yīng)用對(duì)人類具有潛在威脅，可能帶來(lái)嚴(yán)重后果，但基于一些理由仍大力支持發(fā)展人工智能技術(shù)。
人工智能目前尚處于發(fā)展的初級(jí)階段，其危害遠(yuǎn)遠(yuǎn)不夠強(qiáng)大，所以不必過(guò)分擔(dān)憂；
例如，人工智能領(lǐng)域的全球領(lǐng)銜分析師湯姆·奧斯汀表示，霍金等“徹底開(kāi)發(fā)人工智能會(huì)導(dǎo)致人類徹底毀滅”的警告是“非常愚蠢”的，其理由在“現(xiàn)在人工智能還很低級(jí)”。
“人造的東西不可能超過(guò)人”；
這一觀點(diǎn)源于某種宗教情懷，即“造物主一定比所造之物高明”，所以不用杞人憂天。令人諷刺的是，本該最具無(wú)神論精神的科學(xué)主義者，卻從宗教信念中尋求思想資源。
“人類可以設(shè)定人工智能的道德標(biāo)準(zhǔn)”，但是從未對(duì)“人工智能必然會(huì)服從人類設(shè)定的道德標(biāo)準(zhǔn)”提供過(guò)有效的論證；
還有人認(rèn)為只要對(duì)人工智能進(jìn)行道德教育，就可以保證他們一心向善，全心全意為人類服務(wù)。然而，問(wèn)題是道德教育如何能夠防止人工智能 朝不道德方向發(fā)展。
第三種悲觀主義立場(chǎng)。
持此種立場(chǎng)的專家學(xué)者認(rèn)為，人工智能不再是工具地位，自身具有生命意識(shí)與學(xué)習(xí)能力，在道德上具有“作惡”的兩種可能：一種是人工智能的強(qiáng)大威力可能引發(fā)“人類作惡”，另一種是人工智能自身具有“作惡”的能力，而且人類對(duì)人工智能的“作惡”無(wú)法應(yīng)對(duì)，最終將使人類走向虛無(wú)與毀滅。因此，他們表達(dá)了人工智能將來(lái)有可能失控或危害人類的擔(dān)憂。2015年初，史蒂芬·霍金、比爾·蓋茨和埃隆·馬克斯等人簽署了一封公開(kāi)信，呼吁控制人工智能開(kāi)發(fā)。馬克斯認(rèn)為人工智能會(huì)“喚出惡魔”，比核武器對(duì)人類的威脅還大。霍金則明確斷言：徹底開(kāi)發(fā)人工智能可能導(dǎo)致人類滅亡。持悲觀主義立場(chǎng)的人認(rèn)為，技術(shù)并非使人類獲得解放的道路，它“并非通過(guò)控制自然而從自然中解放出來(lái)，而是對(duì)于自然和人本身的破壞，不斷謀殺生物的過(guò)程將最終導(dǎo)致總體毀滅”。
總結(jié)：
科技倫理是人類為了避免或減少科技濫用給自己帶來(lái)的“負(fù)面”作用，從而為人們的科技行為制定出一套規(guī)范和一定的限制，以限制其發(fā)展的限度。這種觀點(diǎn)只是簡(jiǎn)單粗暴地從既定的倫理道德立場(chǎng)出發(fā)，對(duì)科技行為的“是非與善惡”進(jìn)行道德評(píng)判，并向科技提出規(guī)范性的呼吁或指令，而不對(duì)倫理道德體系本身進(jìn)行反思、修正與發(fā)展。
事實(shí)上，科技發(fā)展的許多重大問(wèn)題，“已經(jīng)不是傳統(tǒng)的倫理道德框架能夠提供某種有價(jià)值的答案，而需要對(duì)傳統(tǒng)的倫理觀念及其前提性規(guī)定進(jìn)行批判反思”的基礎(chǔ)上，才能做出有效的回答。具體到人工智能的道德評(píng)判問(wèn)題，則需要對(duì)“人工智能是否是真正意義上的人格實(shí)體與道德實(shí)體”進(jìn)行批判性反思，而不是在某些細(xì)枝末節(jié)問(wèn)題上糾纏不清，否則對(duì)問(wèn)題的實(shí)質(zhì)把握及其根本性解決是無(wú)所助益的。
References:
[1]王銀春, 人工智能的道德判斷及其倫理建議. 南京師大學(xué)報(bào)(社會(huì)科學(xué)版), 2018(04): 第29-36頁(yè).
復(fù)旦大學(xué)教授王國(guó)豫老師長(zhǎng)期從事高科技倫理問(wèn)題的基礎(chǔ)理論和應(yīng)用對(duì)策研究，她是國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“高科技倫理問(wèn)題研究”首席專家。她主張新時(shí)代科技下的倫理道德研究一方面要從現(xiàn)實(shí)維度出發(fā)，以問(wèn)題意識(shí)為導(dǎo)向，指出現(xiàn)代技術(shù)對(duì)傳統(tǒng)生命觀的遮蔽。另一方面從技術(shù)倫理學(xué)的路徑出發(fā)，強(qiáng)調(diào)技術(shù)中蘊(yùn)含著價(jià)值，要從源頭上闡清概念，制定規(guī)范，進(jìn)而從倫理共同體、科學(xué)共同體走向行動(dòng)共同體。
CNCC2019大會(huì)，特邀請(qǐng)演講嘉賓王國(guó)豫老師作主題報(bào)告。開(kāi)設(shè)“人工智能開(kāi)發(fā)有道德邊界么？”、“智能駕駛未來(lái)之路”等主題的分論壇，共同探討人工智能的道德倫理的問(wèn)題。
CNCC介紹：
CNCC2019由大會(huì)報(bào)告、大會(huì)論壇、技術(shù)論壇、活動(dòng)、展覽等環(huán)節(jié)組成，其中技術(shù)論壇數(shù)量最多，400多位精英為大會(huì)貢獻(xiàn)的多場(chǎng)高質(zhì)量論壇，吸引了國(guó)內(nèi)外大量的學(xué)術(shù)、工業(yè)界人士參會(huì)，是計(jì)算前沿交流的舞臺(tái)。更有前沿技術(shù)與應(yīng)用的預(yù)測(cè)，以下是本次大會(huì)獲評(píng)通過(guò)的CNCC2019技術(shù)論壇列表：
戰(zhàn)略合作媒體
