01
導讀
“學界動態·專題解讀”欄目將持續為讀者提供有關于人工智能的問題專題學界相關研究的解讀。本期將為讀者介紹各方對人工智能發展對核戰爭發生的風險造成的影響的研究結果進行解讀。
02
人工智能與核戰爭風險
人工智能的發展是革命性的，其發展成果的基礎性決定了其應用的廣泛性，其在軍事領域的應用也不例外。近年來人工智能的飛速發展已經開始觸動原本依賴于“確保相互摧毀”（Mutual Assured Destruction, MAD）不穩定的核均衡，其機理是多途徑的，而且也遠遠不是單向的。不同的機構對這個問題都提出了自己的研究思路，并給出了相應的研究結果，這些結果對于我們理解人工智能對核戰爭風險的影響有很大的幫助。
大多數機構特別是軍事領域背景的機構均強調人工智能對核武領域的負面作用。防務新聞（Defense
News）一篇《將AI與核武器配對將會將我們引向末日》舉例上世紀80年代蘇聯考慮部署一款在蘇聯遭受核打擊后自動對美國進行報復的機器，但其最終還是部署了一個經修改的近乎自動化的系統，并就此提出完全依靠人工智能系統事實上是極其危險的。正如RAND在其《人工智能如何增加核戰爭風險》一文中指出，在1983年中，蘇聯警報系統誤報遭受核打擊，正是一名軍官佩特羅（StanlslawPetrow）果斷的大膽判斷才避免了美蘇全面的核戰爭，這足以說明人類對于人工智能或機器的完全依賴并不現實，且將大大增加核武領域的風險。在其他方面，人工智能除了可以影響本國的核武部署和狀況，同樣還能被用作新型攻擊武器，沙利科夫（Pavel
Sharikov）特別強調了人工智能在攻擊別國核武控制系統的潛力，其認為人工智能-網絡攻擊-核武器這個組合將是一個極其危險的組合，其開辟了新的為受監管的領域。上述這些研究都在說明人工智能對一國對內對外的核武政策和狀況的影響能力，而以上所提到的大多數都是負面的影響。
在這個問題上，RAND智庫的Edward
Geist和Andrew J.
Lohn在這方面進行了較詳細的研究，在其于2018年發布的報告《人工智能對于和戰爭風險意味幾何》中通過召開研討會收集了人工智能對核安全的影響的各派觀點。其中樂觀派更可能認為核戰爭太過復雜，導致人工智能難有大作為，因此人工智能對現有平衡的影響是可以忽略的；而謹慎派則傾向于認為人工智能將導致現有系統變得脆弱，或將擾亂現有的重要戰略平衡；第三種立場則是立足于人工智能易受對抗行動影響，既有可能重建戰略穩定性也有可能破壞穩定。RAND同時認為，一方面國家對人工智能的依賴或使用有可能使得其戰略對手做出誤判而造成災害性后果；另一方面，如果核大國成功建立基于人工智能的新的戰略穩定性，也有可能降低核戰爭的風險。
OurWorld的VincentBoulanin在其文《人工智能對核穩定的前途與危途》中采用不同的解釋邏輯，其雖然同樣指出人工智能對核戰爭危險的兩面作用，從其破壞穩定的方面來說，人工智能的發展而導致的技術進步將為國家間的核威懾帶來變化，從而在一段時間內一個國家會取得一定程度的核優勢，這對核穩定而言是非常不利的，因為他可能會造成核武競賽。這一點其實比較好理解，比如俄羅斯開發的狀況-6（Status-6）核無人駕駛潛艇，其無人駕駛的特性拓寬了核武器的拓寬渠道，成為著實的噩夢，這在一定程度上引起了美國的警覺，并有引起核軍備競賽的潛力。事實上，各國都在積極利用人工智能的技術來增強其核武庫的質量，具體的思路包括自動化的導彈以躲避反導系統的偵測和攻擊。從其維持穩定的方面來說就是人工智能的發展可以減少信息不對稱并優化決策質量，在一定程度上減少錯誤的計算與事件升級，人工智能可以提供“與核武相關的發展的監督與其相關行為認證”，從而更好地規范各國的行為。比如美國在通過秘密的AI項目來檢測其他國家隱藏的核武器地點，或許美國總統特朗普在河內要求朝鮮另外拆除的隱秘核設施就是通過新的AI技術得以實現的。
從總體來說，人工智能在核武器領域的應用大多被貼上負面的標簽，而較全面的分析中普遍同意人工智能在核武器領域具有雙面的作用，但要對這些反向的作用進行量化從而進行對比則較為困難。對人工智能在核武領域的負面影響主要從人工智能對核武的各項能力的提升以及對別國核武能力的削弱這兩個內外角度開展的，其試圖說明人工智能的發展將使得核武更強大，而核武性能的提升將導致舊核武體系軍備控制體系被繞開，而直到新平衡的建立之前，都將處于一個相對危險期；對人工智能在核武領域的正面影響的評估則顯得更為樂觀，其認為隨著人工智能的發展，國家間有關核武的信息不對稱將下降，而且有關核武的監督也將更加科學完善，因此其也有降低和限制核戰爭風險的作用。雖然人工智能在核武領域的應用的正反兩面都有詳細的論證與分析，但是專家們普遍都難以確認未來的發展中哪種因素會占上風。
作者：譚松峰
