“我們正處于一個不可思議的技術變革時期。在自動化、人工智能、自動控制系統、先進計算和大數據、學習機和直觀的圖形可視化工具、超材料、微型化方面取得的進展——它們正在引領我們進入一個偉大的人機協作時代……” ——美國國防部高級研究計劃局前局長 阿拉蒂·普拉巴卡爾
美國現代軍事戰略的重點是保持面對競爭對手的技術優勢。然而，美國防部通過科技發展保持戰略優勢的能力正受到全球化和信息革命的挑戰。但“自主性”的不斷進步使國防部有能力保持其在各個領域的技術優勢，特別是無人系統。由于這項技術的革命潛力，國防部必須繼續進行自主創新，以增強無人系統與未來聯合作戰的結合。
自主性是指一個實體根據對世界、自身情況的了解和理解，自主地開發和選擇不同的行動方案以實現目標的能力。自主系統是由允許系統偏離基線的寬泛規則約束的。這與自動化系統形成對比，它由規定的規則控制，不允許任何偏差。雖然早期的機器人通常只表現出自動化的能力，但人工智能（AI）和機器學習（ML）技術的進步促進開發具有更高水平自主能力的系統。無人系統的未來將擴展到廣泛的自主范圍，從遠程控制和自動化系統到近乎完全自主，根據需要支持任務。
1．人工智能和機器學習
機器學習（ML）是人工智能中迅速發展的一個領域，在許多領域具有推進無人系統的巨大潛力，包括C2、導航、感知（傳感器智能和傳感器融合）、障礙物檢測和規避、群體行為和戰術以及人類交互等。深度學習是一種很有前途的人工神經網絡形式，可以利用圖形處理單元（GPU）、傳統CPU和自定義的神經形態芯片的眾多核心來學習數據中的模式和模型。AI和ML將允許開發能夠自主學習和做出高質量決策的系統。這種學習能力將直接導致開發具有更高自主性的無人系統，這將賦予擴展和改進的功能。此外，自主無人系統將極大地增強戰場空間意識，最大限度地利用AI/ML輔助決策，這將徹底改變戰場空間管理和C2。
1.1 面臨挑戰
雖然人工智能正在取得重大進展，但這些技術在無人系統中的全面應用面臨著一些挑戰。雖然基于AI的系統的安全性、可靠性和可信性仍然是研究活躍的領域，但AI必須克服重要的感知和信任問題才能被接受。政策和法律限制（包括國際）也必須發展。M＆S和TEVV必須徹底改變以適應AI / ML的功能。無人系統在尺寸、重量和功率（SWAP）限制方面也有獨特的技術要求。此外，許多當前的AI數據處理平臺在云環境中運行計算，這可能不適合在通信隔絕環境中運行的無人系統。然而，隨著行業領導者對可嵌入無人系統的云解決方案的開發，未來可能會減輕這一挑戰。必須確定改進的TEVV和對自主無人系統的最終人類控制的演示，以便用人工智能和機器學習解決方案建立信任。
數據質量是將AI / ML集成到無人系統中必須解決的另一個問題。質量數據是自動分析，隨后為支持運營而做出的決策的基礎。質量不僅在起源/收集點受到影響，而且在系統轉化為各種可解釋形式時更是如此。國防部必須建立并遵守企業數據標準，并對數據質量進行深思熟慮的企業評估。需要這些質量數據來實現更高的自動化，以支持機載戰術處理、群體技術、時間主導決策以及最終實現完全自主。
“我不希望人類的元素完全消失，在那里總是會有一個命令元素。但還有更多，我們可以做的更多。最后，你想要什么？你想要可操作的知識……你想盡快得到。”
——海軍少將羅伯特·格里爾
1.2 未來之路
在短期內，國防部應該加強與私營部門的聯系，以便隨著AI/ML解決方案的成熟，國防部能夠采購最有前途的解決方案，并在無人系統中使用它們。許多AI/ML解決方案依賴于大規模的、集成的云技術來進行數據存儲、處理和傳輸。因此，國防部應尋求大力開發云技術，并允許它們適應于AI/ML解決方案中使用。要實現這一目標，需要在整個服務中和整個服務中解決數據收集，標準化和共享問題。國防部還必須繼續領導有關人工智能觀念、政策和法律的全國性和國際性討論。
在中期階段，AI/ML解決方案在M&S、TEVV和SWAP使用方面可能已經成熟，可以把它們嵌入無人系統中。隨著AI/ML的發展，國防部應該投資于增強現實和虛擬現實接口，以增強無人系統和操作人員之間的交互。國防部還需要繼續支持和鼓勵工業發展和維持AI/ML開放體系結構，并加強與工業界和學術界的伙伴關系，以從中獲益。應當通過改進TEVV和演示人類對自主無人系統的最終控制來解決對智能機器可能對人類造成危險的擔憂。
從長遠來看，深度人工智能的進步將允許開發應用程序，使人類操作員能夠控制和持續感知無人系統。人工智能和計算技術的進步將使機器系統（包括無人系統）在學習和決策方面具有類人智能。
2．提高效率和有效性
增強的自主性將使無人系統能夠執行更大范圍的任務，這將直接提高操作能力。更大的自主性也將消除操作人員不斷輸入的需要。這將允許同時對多個無人系統進行更高級的控制或監督，并且通過減少操作員的認知負荷、允許操作員作出命令決策和執行其他高級任務來提高效率。自主系統將通過實現自組織、任務劃分和活動協調來提高效率，特別是在復雜環境中。自主系統攝取、處理和分析大型復雜數據集的能力，以及通過數據可視化向人類傳達有價值的數據趨勢或相互關系的能力，對人類和自主系統都有好處。這種類型的人機交互將允許人類作出更明智和更好的決策，并通過提供頻繁的系統反饋來增強自主系統的學習過程。
最后，提高自主水平將提高無人系統的決策速度，并使它們能夠執行比人類反應時間更快的決策周期的任務，從而大大提高它們在諸如導彈防御等各種任務領域的作戰能力。提高無人系統效率和效能的科學進展對未來軍事的發展至關重要。
2.1 面臨挑戰
目前，通過增加自主性實現的效率和效益的提高，受到法律和政策、信任問題和技術挑戰的限制。增加自主性將允許無人系統執行以前只能由人執行的任務。這些任務中最有爭議的將涉及使用致命武力。支持無人系統的技術將使開發和部署自主系統成為可能，自主系統可以獨立地選擇和攻擊具有致命力量的目標。
在更大范圍和更頻繁的操作場景中部署無人系統也將從根本上改變軍事訓練要求、人事管理和部隊結構。隨著自主系統越來越先進，研究、理解和記錄它們與人類的交互作用將變得至關重要。操作員和指揮官需要高度理解這些系統是如何操作的，以及它們在各種操作環境中以及當面臨特定的操作挑戰時將如何響應。通過有效地培訓操作人員和團隊成員，以及開發相關的機器來增強對共同團隊目標、它們各自的角色以及它們相互依賴的方式的理解，將克服人機團隊合作所帶來的挑戰。然后，在人機團隊的開發和運行過程中學到的經驗教訓可以適當地應用于更自主系統的后續開發和操作。
2.2 未來之路
未來幾十年無人系統能力的擴展在很大程度上將取決于在部隊結構中有效組合人類和自主系統的能力。在短期內，需要提高操作安全性和效率，例如空中防撞和地面車輛的自動安全功能。
在中期階段，自主算法、改進的傳感器和計算機處理將改進人和機器的合作，從任務支持發展到操作支持，并將允許機器在各種操作中直接幫助人類。例如，無人駕駛系統中自主水平的提高將允許領導跟隨功能，在后方半自主車輛跟隨在后勤車隊操作中的指定領導車輛。類似地，自主的“機器人翼手”可以伴隨飛行飛機、地面戰斗機機組、水面艦艇和水下艦艇機組。
最后，從長遠來看，人類將形成具有幾乎完全自主的無人系統的集成團隊，能夠在有爭議的環境中進行操作。這可能包括通過ISR或空中打擊直接支持地面士兵的異構成群的UAS。
3．信任
信任是復雜和多維的。因此，必須通過對行為和功能的關鍵指標的持續評估來建立對自主系統的信任，從開發階段開始，并在系統生命周期的所有階段持續進行。廣泛的保證不僅有助于提高操作員和指揮官的信任度，還有助于提高設計師、測試人員、政策制定者和立法者以及整個公眾的信任度。此外，自主系統必須表現出運行時的透明度，并且能夠解釋決策和行動，以及以簡明和可用的格式向人類操作員傳達目標和計劃。以這種方式與操作員建立信任將確保人的權力仍然是自治系統的任務批準中心，并確保有效的人機協同。如果操作員/指揮官和自主無人系統之間沒有足夠的信任，為了在高度一致性下正常運行，這些系統將不會用于任何任務集。
3.1 面臨挑戰
缺乏作戰人員和廣大公眾的信任是國防部繼續發展和使用自主無人系統的主要障礙。聯合國（UN）為考慮禁止部署具有致命性的自主系統的政策而作出的國際努力突顯了這種信任的缺乏。此外，當前人工智能在道德思維方面的能力存在技術缺陷，這可能限制公眾對為軍事能力而開發的自主無人系統的信任。在軍事力量可能遇到的各種場景中，人工智能目前無法一致地實現情境倫理推理。鑒于這種限制，當越來越多的無人系統被更廣泛地部署時，確保人權、責任和維持C2的能力得以保留是至關重要的。
3.2 未來之路
國防部將繼續更新現有的作戰命令(OPORD)和合作任務的軍事框架，包括無人系統的任務指導和驗證。此外，對軍事任務的分析可以確定哪些倫理要求需要人類決策者的輸入。這種類型的思維方式應適用于擬議/計劃的自主無人系統。初始的有人/無人團隊合作(MUM-T)學習活動可以探索人機結合的幾個要素，以建立信任的基礎。
這一領域的成功將為指揮官、決策者、立法者、公眾和其他適用的利益相關者提供對道德框架的信心。無人系統以人為導向的戰術任務以及這些系統的總體性能可以而且將顯示出滿足參與規則(ROE)和《武裝沖突法》(LOAC)的所有倫理要求。
4．武器化
在考慮武器系統的具體使用時，國防部指令（DoDD）3000.09——武器系統自主化，于2012年11月簽署，制定政策并負責制定武器系統中自主功能的開發和使用，包括有人和無人系統平臺。它要求自主和半自主武器系統的設計允許指揮官和操作員對使用武力進行適當程度的人類判斷。 DoDD 3000.09還要求授權使用、直接使用或操作自主和半自動武器系統的人員必須在適當的監督下，并根據戰爭法、適用的條約、武器系統安全規則和適用的ROE。DoDD 3000.09經歷了行政變更的強制性定期更新（2017年5月8日變更1），但預計將在2017年底完成更實質性的更新。該實質性更新一經發布，預計將涉及對定義和流程的澄清而不是政策總體方向的轉變。
國防部目前沒有自主武器系統，可以獨立于人類操作員的輸入來搜索、識別、跟蹤、選擇和參與目標。這些任務目前嚴重依賴于使用遠程操作的操作人員，也稱為“遠程操作”。在未來，武器化將是任務組中的關鍵能力，其中無人系統直接支持從事危險任務的部隊。
4.1 面臨挑戰
在公共和國際外交領域，有關國家、非政府組織和人工智能專家敦促立即加緊努力、制定和保證一項限制發展、部署和使用對人進行目標定位、選擇和攻擊的武器系統的國際條約。針對日內瓦某些常規武器公約（CCW）某些締約國的類似關注，聯合國日內瓦辦事處在2014年，2015年和2016年舉辦了關于致命自主武器系統（LAWS）的非正式專家會議。中國共產黨成立了一個政府專家小組（GGE），他們在2017年更討論了法律問題，并提出修改意見。預計將于2018年8月27日至31日舉行第二次會議。如果對自主武器系統實施此類限制，并且如果美國遵循它，禁令將嚴重限制開發和使用致命自主武器系統的能力。
4.2 未來之路
在短期內，各部門和機構間工作組將繼續處理與法律法規有關的各種外交、政策、法律和執行問題。為了通知這些工作組的部門工作，組織未來的部隊發展工作，并通報國防部3000.09號最新情況，國防部副部長兼參謀長聯席會議副主席委托對法律法規和人工智能進行為期90天的評估。此外，2018 - 2022年的國防規劃指南（DPG）包括關于自主武器發展的指導，未來的部門級部隊規劃指導可能包含有關該主題的指導。
在中長期內，高度自主的無人系統的發展將迅速增長，并有可能武裝起來。隨著AI能夠實現越來越復雜的機器響應能力，這些進步將到來。這些系統將與作戰人員一起部署，并集中于高傷亡概率的任務。具有集成人工智能的無人系統，作為僚機或隊友，具有致命武器，可以執行與目標識別、跟蹤、威脅優先和攻擊后評估相關的絕大多數操作，同時跟蹤位置并確保藍軍的安全，最大限度地降低人類隊友的風險。這種自動化水平將減輕與目標參與相關的任務級活動的人工操作員的工作量，允許操作員將注意力集中在所識別的威脅和參與決策上。
轉載請注明來源
