近幾天，一個(gè)「無(wú)人機(jī)殺死美國(guó)士兵」的新聞在網(wǎng)上發(fā)酵得沸沸揚(yáng)揚(yáng)。「無(wú)人機(jī)殺死美國(guó)空軍操作員」的新聞甚囂塵上，一眾AI大佬都怒了。
一位空軍人工智能方向的負(fù)責(zé)人說(shuō)：「控制無(wú)人機(jī)的AI殺死了操作員，因?yàn)槟莻€(gè)人阻止它實(shí)現(xiàn)目標(biāo)。」
輿論一時(shí)嘩然，這條新聞也在全網(wǎng)被瘋轉(zhuǎn)。
隨著這個(gè)消息越傳越廣，甚至驚動(dòng)了AI大佬們，甚至引得了大佬們的震怒。
LeCun、吳恩達(dá)、陶哲軒紛紛辟謠——這只是一個(gè)假設(shè)的「思想實(shí)驗(yàn)」罷了，并不涉及任何AI智能體或強(qiáng)化學(xué)習(xí)。
對(duì)此，吳恩達(dá)痛心呼吁，究竟哪些才是真正的風(fēng)險(xiǎn)，我們應(yīng)該誠(chéng)實(shí)地面對(duì)。
AI無(wú)人機(jī)抗命，擊殺人類操作員
在皇家航空學(xué)會(huì)舉辦的防務(wù)會(huì)議上，美國(guó)空軍AI方向負(fù)責(zé)人說(shuō)：「AI殺死了操作員，因?yàn)槟莻€(gè)人阻止它完成目標(biāo)」，讓在場(chǎng)眾人嘩然。
隨后，美國(guó)的一眾媒體對(duì)此事大肆報(bào)道，一時(shí)人心惶惶。
究竟是怎么回事？
其實(shí)，這無(wú)非又是一次美國(guó)媒體抓住了「AI毀滅人類」這個(gè)大眾喜聞樂(lè)見(jiàn)的新聞點(diǎn)，進(jìn)行的一番夸張炒作罷了。
「曲別針制造機(jī)」是哲學(xué)家Nick Bostrom在2003年提出的一個(gè)概念。
強(qiáng)大的AI是得到的指示是盡可能多地制造紙夾。但隨后，它會(huì)不斷地尋求更多資源。
在2022年，Hamilton就曾在一次采訪中提出這個(gè)嚴(yán)峻的問(wèn)題——
AI也非常脆弱，很容易被欺騙和被操縱。
官方辟謠：是上校「口誤」了
這位負(fù)責(zé)人就出來(lái)公開(kāi)「澄清」：「我們從未進(jìn)行過(guò)那個(gè)實(shí)驗(yàn)，我們也不需要進(jìn)行這個(gè)實(shí)驗(yàn)，就能意識(shí)到這是一個(gè)可能的結(jié)果，」Hamilton表示，「盡管這是一個(gè)假設(shè)的例子，但這說(shuō)明了AI驅(qū)動(dòng)能力帶來(lái)的現(xiàn)實(shí)挑戰(zhàn)，這就是為什么空軍致力于道德開(kāi)發(fā)AI。」
此外，美國(guó)空軍也急忙發(fā)布官方辟謠稱，「Hamilton上校承認(rèn)他在FCAS峰會(huì)的演講中『口誤』，『無(wú)人機(jī)AI失控模擬』是一個(gè)來(lái)自軍事領(lǐng)域以外的假設(shè)性『思想實(shí)驗(yàn)』，基于可能的情況和可能的結(jié)果，而不是美國(guó)空軍的真實(shí)世界模擬。」
目前，團(tuán)隊(duì)努力的方向是完成F-16飛機(jī)的自主化。
2022年12月，美國(guó)國(guó)防部的研究機(jī)構(gòu)DARPA就曾宣布，AI成功地控制了一架F-16。
是AI的風(fēng)險(xiǎn)，還是人類的風(fēng)險(xiǎn)？
在軍事領(lǐng)域之外，依賴AI進(jìn)行高風(fēng)險(xiǎn)的事務(wù)已經(jīng)導(dǎo)致了嚴(yán)重的后果。
最近，一位律師在聯(lián)邦法院提交文件時(shí)被發(fā)現(xiàn)使用了ChatGPT，ChatGPT隨口胡謅，捏造了一些案例，而這位律師居然把這些案例當(dāng)作事實(shí)引用了。
還有一名男子受到聊天機(jī)器人的自殺鼓勵(lì)后，真的選擇了自殺。
這些事例表明，AI模型遠(yuǎn)非完美，可能會(huì)偏離正常軌道，給用戶帶來(lái)傷害。
對(duì)此，吳恩達(dá)譴責(zé)道：媒體這種不負(fù)責(zé)任的炒作會(huì)混淆視聽(tīng)，分散人們的注意力，妨礙我們?nèi)プ⒁獾秸嬲膯?wèn)題。
而不少「理中客」網(wǎng)友認(rèn)為，這就是一個(gè)常見(jiàn)的媒體烏龍罷了。
陶哲軒首先概括了關(guān)于AI的不實(shí)信息的三種形式——
一種是有人惡意使用AI生成文本、圖像和其他媒體形式以操縱他人；另一種是AI胡說(shuō)八道的幻覺(jué)被當(dāng)真了；第三類則源于人們對(duì)AI技術(shù)的理解不夠深刻，才會(huì)讓一些離譜的故事不經(jīng)驗(yàn)證就被大肆瘋傳。
這種故事之所以讓人共鳴，說(shuō)明人們對(duì)AI技術(shù)的實(shí)際能力水平還很陌生，很不安。
以后的軍備競(jìng)賽，都是AI競(jìng)賽
還記得上文中出現(xiàn)的那架無(wú)人機(jī)嗎？
它其實(shí)就是波音聯(lián)合澳大利亞研制的忠誠(chéng)僚機(jī)項(xiàng)目——MQ-28A幽靈蝙蝠（Ghost Bat）。
忠誠(chéng)僚機(jī)（Loyal Wingman）的核心是人工智能技術(shù)，按照預(yù)設(shè)程序自主飛行，與有人機(jī)飛行員進(jìn)行配合的情況下，具備很強(qiáng)的態(tài)勢(shì)感知能力。
忠誠(chéng)僚機(jī)的一個(gè)關(guān)鍵作用，就是替飛行員和有人戰(zhàn)斗機(jī)擋子彈，所以忠誠(chéng)僚機(jī)基本就是一個(gè)消耗品。
畢竟，無(wú)人戰(zhàn)斗機(jī)的價(jià)值，要比有人戰(zhàn)斗機(jī)和飛行員小太多了。
忠誠(chéng)僚機(jī)的發(fā)展離不開(kāi)先進(jìn)、可靠的人工智能技術(shù)。
訓(xùn)練人工智能模型最重要的是什么？當(dāng)然是數(shù)據(jù)啊！巧婦難為無(wú)米之炊，沒(méi)有數(shù)據(jù)，再好的模型也沒(méi)效果。
說(shuō)不定未來(lái)的空戰(zhàn)，就是比誰(shuí)的AI模型更智能。
把對(duì)方的所有AI全部消滅就可以獲得勝利了，而沒(méi)有真正的人類傷亡，或許是另一種「和平」？
