提起人工智能，就不得不提到自主性。自主性被理解為比人工智能更復(fù)雜的東西，甚至有些觀點認(rèn)為自主性等同于人工智能，事實上這并不太準(zhǔn)確。

人工智能是一個總稱，指的是廣泛的技術(shù)組合或是一系列技術(shù)或技巧，是一系列的傳感器和處理器，它們接收信息、處理信息并輸出。自主性從概念上來說，是指一個命令或控制術(shù)語，它是一種獨立于其他控制或引導(dǎo)的操作能力，自主性更強調(diào)自我意識和自由意志。自主性很早以前就出現(xiàn)了，例如戰(zhàn)爭中使用的地雷，地雷是完全自主的，你把它埋在土里，它不再需要人來控制它，它只會機械地執(zhí)行它的功能，實際上什么也不做，直到有人踩到它為止。當(dāng)一名士兵的腳踩在地雷上，使得某些參數(shù)得到滿足，進(jìn)而地雷被激活后發(fā)生爆炸。人工智能可以具有“形式自我意識”，但不具備“實質(zhì)自我意識”，換言之，人工智能具有的是弱自主性。

當(dāng)前，隨著人工智能技術(shù)的發(fā)展，能夠自動識別、鎖定和打擊目標(biāo)的智能化武器系統(tǒng)逐漸出現(xiàn)，并能代替人類執(zhí)行簡單的決策命令。如美軍的艦載“宙斯盾”系統(tǒng)、以軍的“鐵穹”系統(tǒng)、俄軍的“競技場”主動防護(hù)系統(tǒng)、法軍的“鯊魚”系統(tǒng)等，由于這些系統(tǒng)的智能化水平目前還不高，自主交戰(zhàn)模式通常是最后選項。而在特定作戰(zhàn)領(lǐng)域，如網(wǎng)絡(luò)空間和電磁頻譜領(lǐng)域，人類只能依托智能化武器系統(tǒng)進(jìn)行自主對抗。

從某種意義上說，支持人工智能的系統(tǒng)允許存在自主能力，但并不需要自主。如自主武器系統(tǒng)，這是一種無人參與情況下自主選擇目標(biāo)進(jìn)行打擊的武器系統(tǒng)。但是，要使武器具備自主能力，需要為武器系統(tǒng)提供大量的識別系統(tǒng)。以面部識別系統(tǒng)為例，這種識別系統(tǒng)通過大量的數(shù)據(jù)采集收集民眾信息。倘若該系統(tǒng)具備了完全的自主性，則這樣的識別系統(tǒng)可能會用于其它非法用途，導(dǎo)致事態(tài)失控。

未來，隨著智能化武器系統(tǒng)的自主對抗成為新常態(tài)，在人工智能領(lǐng)域或處理自主性問題時，人類的判斷是機器所不能替代的，因此，將人工智能系統(tǒng)潛力最大化的方案并不是將人類完全排除在外，而是從“人在回路中”向“人在回路上”轉(zhuǎn)變。在多數(shù)情況下，人類戰(zhàn)士扮演監(jiān)督員的角色，負(fù)責(zé)在開戰(zhàn)前輸入目標(biāo)特征和設(shè)定交戰(zhàn)規(guī)則，觀察戰(zhàn)場交戰(zhàn)情況等。