人工智能在軍事領(lǐng)域的滲透與應(yīng)用思考
人工智能(artificial intelligence，AI)技術(shù)現(xiàn)已進(jìn)入新的高速增長期，是公認(rèn)最有可能改變未來世界的顛覆性技術(shù)。世界許多國家已將發(fā)展人工智能上升到國家戰(zhàn)略，從政策導(dǎo)向、戰(zhàn)略規(guī)劃、資金預(yù)算層面予以大力支持。人工智能武器的出現(xiàn)則將從根本上改變戰(zhàn)爭(zhēng)方式，即由“人對(duì)人”的戰(zhàn)爭(zhēng)變成“機(jī)器自主殺人”的戰(zhàn)爭(zhēng)。以美國為代表的世界軍事強(qiáng)國，預(yù)見到人工智能技術(shù)在軍事領(lǐng)域的廣闊應(yīng)用前景，認(rèn)為未來的軍備競(jìng)賽是智能化的競(jìng)賽，并已提前布局了一系列研究計(jì)劃，發(fā)布“第三次抵消戰(zhàn)略”，力求在智能化上與潛在對(duì)手拉開代差。落后即意味著受制于人，為避免因喪失發(fā)展先機(jī)而造成巨大代差，中國亟待迎頭趕上，大力發(fā)展人工智能技術(shù)的軍事應(yīng)用研究。
01 人工智能發(fā)展分析
人工智能的涵義
人工智能是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門技術(shù)科學(xué)。從智能化水平看，人工智能大體可分為運(yùn)算智能、感知智能和認(rèn)知智能3個(gè)層次。
1)運(yùn)算智能即快速計(jì)算和記憶存儲(chǔ)能力。旨在協(xié)助存儲(chǔ)和快速處理海量數(shù)據(jù)，是感知和認(rèn)知的基礎(chǔ)，以科學(xué)運(yùn)算、邏輯處理、統(tǒng)計(jì)查詢等形式化、規(guī)則化運(yùn)算為核心。在此方面，計(jì)算機(jī)早已超過人類，但如集合證明、數(shù)學(xué)符號(hào)證明一類的復(fù)雜邏輯推理，仍需要人類直覺的輔助。
2)感知智能即視覺、聽覺、觸覺等感知能力。旨在讓機(jī)器“看”懂與“聽”懂，并據(jù)此輔助人類高效地完成“看”與“聽”的相關(guān)工作，以圖像理解、語音識(shí)別、語言翻譯為代表。由于深度學(xué)習(xí)方法的突破和重大進(jìn)展，感知智能開始逐步趨于實(shí)用水平，目前已接近人類。
3)認(rèn)知智能即“能理解、會(huì)思考”。旨在讓機(jī)器學(xué)會(huì)主動(dòng)思考及行動(dòng)，以實(shí)現(xiàn)全面輔助或替代人類工作，以理解、推理和決策為代表，強(qiáng)調(diào)會(huì)思考、能決策等。因其綜合性更強(qiáng)，更接近人類智能，認(rèn)知智能研究難度更大，長期以來進(jìn)展一直比較緩慢。
人工智能的發(fā)展趨勢(shì)
人工智能技術(shù)產(chǎn)生于20世紀(jì)50年代。當(dāng)時(shí)世界的科學(xué)技術(shù)已經(jīng)進(jìn)入一個(gè)新的發(fā)展階段，信息量急劇增加，信息傳遞日益加快，人類的自然智能已經(jīng)無法迅速處理如此巨大數(shù)量的信息，于是開始探索通過計(jì)算機(jī)執(zhí)行需要使用人的智能才能完成的任務(wù)。人工智能發(fā)展至今，主要經(jīng)歷了三輪浪潮。20世紀(jì)60年代，人工智能技術(shù)主要用于弈棋、定理證明和簡(jiǎn)單的人工智能專家系統(tǒng)研究。20世紀(jì)70年代，隨著微型電子計(jì)算機(jī)技術(shù)和集成電路技術(shù)的迅猛發(fā)展，人工智能專家系統(tǒng)研究進(jìn)入應(yīng)用開發(fā)階段。20世紀(jì)80年代以來，人工智能技術(shù)得到迅速發(fā)展，應(yīng)用于遺傳工程、化學(xué)合成、業(yè)務(wù)管理、石油勘探、法律斷案及軍事領(lǐng)域中的專家系統(tǒng)相繼研制成功。20世紀(jì)90年代，人工智能技術(shù)發(fā)展進(jìn)入加速階段，國際商業(yè)機(jī)器公司(IBM)國際象棋高手“深藍(lán)”戰(zhàn)勝了世界冠軍加里卡斯·帕羅夫，標(biāo)志著人工智能技術(shù)取得了具有里程碑意義的成功。當(dāng)前的人工智能發(fā)展浪潮始于2010年，隨著大數(shù)據(jù)技術(shù)和計(jì)算能力的發(fā)展，聯(lián)網(wǎng)大數(shù)據(jù)為改進(jìn)機(jī)器學(xué)習(xí)方式和算法提供了有力支撐。
2014 年秋，斯坦福大學(xué)發(fā)起了人工智能百年研究(one hundred year study on artificial intelligence)調(diào)研項(xiàng)目，主要考查人工智能的發(fā)展現(xiàn)狀，展望未來發(fā)展?jié)摿Σ⒎治銎鋵?duì)社會(huì)的影響。2016年9月，作為該項(xiàng)研究的一部分，斯坦福發(fā)布了《2030年的人工智能與生活》報(bào)告，分析了人工智能過去15年的發(fā)展?fàn)顩r，并預(yù)測(cè)了其在未來15年的發(fā)展趨勢(shì)。
人工智能革命得益于多個(gè)因素協(xié)同作用，技術(shù)的積累和日趨成熟使人工智能呈現(xiàn)爆發(fā)增長之勢(shì)。未來15年，人工智能領(lǐng)域?qū)⒓嘘P(guān)注人類意識(shí)系統(tǒng)的開發(fā)，主要包括以下6項(xiàng)核心技術(shù)。
1)計(jì)算機(jī)視覺。用攝影機(jī)和計(jì)算機(jī)代替人眼對(duì)目標(biāo)進(jìn)行識(shí)別、跟蹤和測(cè)量等機(jī)器視覺，并進(jìn)一步做圖像處理，成為更適合人眼觀察或傳送給儀器檢測(cè)的圖像。計(jì)算機(jī)視覺技術(shù)運(yùn)用由圖像處理操作及機(jī)器學(xué)習(xí)等技術(shù)所組成的序列將圖像分析任務(wù)分解為便于管理的小塊任務(wù)。
2)機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)是計(jì)算機(jī)模擬人類的學(xué)習(xí)活動(dòng)，通過對(duì)已有的案例進(jìn)行學(xué)習(xí)，借助歸納和總結(jié)的方法，對(duì)本身的能力加強(qiáng)或改進(jìn)，使機(jī)器獲得新知識(shí)和新技能，在下一次執(zhí)行相同或類似任務(wù)時(shí)，會(huì)比現(xiàn)在做得更好或效率更高。機(jī)器學(xué)習(xí)是從數(shù)據(jù)中自動(dòng)發(fā)現(xiàn)模式，模式一旦被發(fā)現(xiàn)便可以做預(yù)測(cè)，處理的數(shù)據(jù)越多，預(yù)測(cè)也會(huì)越準(zhǔn)確。日前頗受矚目的AlphaGo深度學(xué)習(xí)就是集中于深層神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)的分支之一。
3)文本語言處理。對(duì)自然語言文本的處理是指計(jì)算機(jī)擁有與人類類似的對(duì)文本進(jìn)行處理的能力。例如從文本中提煉出核心信息，計(jì)算機(jī)可從自然語言寫成的文本中自主解讀出含義，做到對(duì)文本的“理解”。例如自動(dòng)識(shí)別文檔中被提及的人物、地點(diǎn)等，或?qū)⒑贤械臈l款提取出來制作成表。
4)自然語言處理。通過建立語言模型預(yù)測(cè)語言表達(dá)的概率分布，確定某一串給定字符或單詞表達(dá)某一特定語義的最大可能性。選定的特征可以與文中某些元素結(jié)合識(shí)別文字，通過識(shí)別這些元素，將某類文字同其他文字區(qū)分開，例如垃圾郵件和正常郵件。
5)機(jī)器人技術(shù)。即機(jī)器+人工智能，將機(jī)器視覺、自動(dòng)規(guī)劃等認(rèn)知技術(shù)整合至極小卻高性能的傳感器制動(dòng)器以及設(shè)計(jì)巧妙的硬件中，使機(jī)器人具有與人類一起工作的能力，能在各種未知環(huán)境中靈活處理不同任務(wù)。近年來，隨著算法等核心技術(shù)的提升，機(jī)器人技術(shù)已取得重要突破。
6)生物識(shí)別技術(shù)。生物識(shí)別可融合計(jì)算機(jī)、光學(xué)、聲學(xué)、生物傳感器、生物統(tǒng)計(jì)學(xué)，利用人體固有的身體特性如指紋、人臉、虹膜、靜脈、聲音、步態(tài)等進(jìn)行個(gè)人身份鑒定，最初應(yīng)用于司法鑒定。近年來，隨著暴恐、偷盜等各種危害社會(huì)治安的事件逐漸增多，對(duì)體征形態(tài)的數(shù)據(jù)進(jìn)行采集、比對(duì)、分析的需求愈加迫切，生物識(shí)別技術(shù)由此迎來發(fā)展良機(jī)。
02 人工智能戰(zhàn)爭(zhēng)時(shí)代
人工智能是未來戰(zhàn)場(chǎng)新高點(diǎn)
近年來，隨著大數(shù)據(jù)、云計(jì)算和深度學(xué)習(xí)等新技術(shù)和新概念的出現(xiàn)，人工智能在感知智能領(lǐng)域和認(rèn)知智能領(lǐng)域取得了重大進(jìn)展，可能使未來的戰(zhàn)爭(zhēng)場(chǎng)景發(fā)生翻天覆地的變化，“智能化戰(zhàn)爭(zhēng)”指日可待，并可能成為戰(zhàn)爭(zhēng)史上繼火藥、核武器之后的“第三次革命”。火藥的出現(xiàn)是“第一次革命”，在此階段，不易受個(gè)人能力影響的武器(槍和火炮)實(shí)體化了，軍隊(duì)構(gòu)成更加大眾化和大量化;核武器實(shí)用化是“第二次革命”，擁有核武器意味著可以進(jìn)行以破壞整個(gè)國家為前提的戰(zhàn)略性對(duì)峙，持核武器的國家具有重要國際影響力。這兩次革命分別使此前的戰(zhàn)爭(zhēng)方式完全發(fā)生變化。人工智能具有從根本上改變戰(zhàn)爭(zhēng)方式的潛力，使得戰(zhàn)爭(zhēng)從“人對(duì)人”變成“機(jī)器自主殺人”。
目前，世界主要大國正在構(gòu)想建成僅由人工智能武器組成的武裝機(jī)構(gòu)(部隊(duì))，人工智能武器在武力糾紛和戰(zhàn)爭(zhēng)中占有較大比重的未來正在來臨。為了避免“未打先輸”，世界軍事大國必然全力爭(zhēng)奪這一未來戰(zhàn)場(chǎng)“新制高點(diǎn)”。
美國軍事領(lǐng)域人工智能現(xiàn)狀
2016年10月，美國國家科技委員會(huì)連續(xù)發(fā)布了兩個(gè)重要的戰(zhàn)略文件《為人工智能的未來做好準(zhǔn)備》和《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》，將人工智能上升到了國家戰(zhàn)略層面，為美國人工智能的發(fā)展奠定了宏偉計(jì)劃和發(fā)展藍(lán)圖。2017年初，美國公布的《2016—2045年新興科技趨勢(shì)報(bào)告》明確了20項(xiàng)最值得關(guān)注的科技發(fā)展趨勢(shì)，其中就包括人工智能、云計(jì)算、量子計(jì)算、大數(shù)據(jù)分析等新興技術(shù)。足見在未來的30年，這些技術(shù)都將成為影響美國國家力量的核心科技，以確保其在未來戰(zhàn)場(chǎng)上的戰(zhàn)略優(yōu)勢(shì)。
美軍很早就開始探索人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用。美國國防高級(jí)研究計(jì)劃局(Defense Advanced Research Projects Agency，DARPA)于2007年啟動(dòng)了“深綠(Deep Green)”計(jì)劃，目的是將仿真嵌入指揮控制系統(tǒng)，從而提高指揮員臨機(jī)決策的速度和質(zhì)量。2009—2014年，DARPA先后啟動(dòng)了大量基礎(chǔ)技術(shù)研究項(xiàng)目，探索發(fā)展從文本、圖像、聲音、視頻、傳感器等不同類型多源數(shù)據(jù)中自主獲取、處理信息、提取關(guān)鍵特征、挖掘關(guān)聯(lián)關(guān)系的相關(guān)技術(shù)。近年來，美國在軍事裝備領(lǐng)域部署了一系列人工智能技術(shù)研究項(xiàng)目(表1)。
美國對(duì)人工智能的未來發(fā)展充滿了信心，而人工智能則已成為鞏固其全球霸主地位的一個(gè)重要籌碼。美國國防部的行動(dòng)計(jì)劃指出，人工智能技術(shù)使五角大樓重新調(diào)整了人和機(jī)器在戰(zhàn)場(chǎng)上的位置，新的人工智能武器將具有人力無可匹敵的速度和精確度，同時(shí)又能減少士兵傷亡。同時(shí)，美國五角大樓也已將人工智能置于維持其主導(dǎo)全球軍事大國地位的戰(zhàn)略核心，以應(yīng)對(duì)未來可能的“反介入/區(qū)域拒止”威脅，并將自主技術(shù)、人工智能及先進(jìn)導(dǎo)彈視為支撐美國反制未來數(shù)十年威脅的關(guān)鍵。
03 人工智能在中國軍事領(lǐng)域應(yīng)用的思考
當(dāng)前，世界科技正醞釀著新突破的發(fā)展格局。以人機(jī)大戰(zhàn)為標(biāo)志，人工智能發(fā)展取得了突破性重大進(jìn)展，并加速向軍事領(lǐng)域轉(zhuǎn)移，這必將對(duì)信息化戰(zhàn)爭(zhēng)形態(tài)產(chǎn)生沖擊甚至“顛覆性”的影響。因此，應(yīng)緊跟人工智能技術(shù)變遷，加緊做好技術(shù)創(chuàng)新的戰(zhàn)略性布局，科學(xué)應(yīng)對(duì)戰(zhàn)爭(zhēng)形態(tài)可能的演變。
敏銳感知人工智能發(fā)展趨勢(shì)
對(duì)戰(zhàn)爭(zhēng)的理解程度，本身就是敵對(duì)雙方對(duì)抗的重大內(nèi)容。中國在信息化軍事變革中最大收獲就是，順勢(shì)強(qiáng)化了技術(shù)敏感性，對(duì)人與武器之間關(guān)系的認(rèn)識(shí)更加科學(xué)辯證，將技術(shù)與裝備因素提高到了應(yīng)有高度，軍隊(duì)建設(shè)對(duì)先進(jìn)技術(shù)的吸納能力更強(qiáng)。當(dāng)前以智能化為代表的軍事技術(shù)群的發(fā)展，推動(dòng)戰(zhàn)爭(zhēng)形態(tài)處在實(shí)時(shí)流變之中。從軍事變革史看，軍事技術(shù)在歷次變革中發(fā)揮了源頭促發(fā)性、基礎(chǔ)支撐性作用，誰具有技術(shù)變化的敏感性并首先實(shí)現(xiàn)技術(shù)上的突破，誰就能掌握新的戰(zhàn)爭(zhēng)規(guī)則、控制打贏未來戰(zhàn)爭(zhēng)的制高點(diǎn)。
當(dāng)前，人工智能是技術(shù)發(fā)展的最新成果，在智能、神經(jīng)、思維等領(lǐng)域，對(duì)信息化具有“范式”突破意義。對(duì)軍隊(duì)而言，如果不能正確預(yù)判軍事科技的突破方向、把握戰(zhàn)爭(zhēng)形態(tài)變化，不僅會(huì)導(dǎo)致“技術(shù)代差”，更會(huì)導(dǎo)致核心能力和國家安全等危機(jī)。作為戰(zhàn)爭(zhēng)的主體、技術(shù)的主人，必須要有高度敏感性，洞悉戰(zhàn)爭(zhēng)形態(tài)演變規(guī)律。從人工智能的思想認(rèn)知域與行動(dòng)控制域的雙重維度，實(shí)現(xiàn)智能技術(shù)對(duì)信息化、機(jī)械化的重大突破。
美國“第三次抵消戰(zhàn)略”就是利用人工智能和自主性等“顛覆性”技術(shù)發(fā)展，將這些技術(shù)嵌入到美國國防部的作戰(zhàn)網(wǎng)絡(luò)中，使美國的傳統(tǒng)威懾能力登上一個(gè)新的臺(tái)階，創(chuàng)設(shè)下一場(chǎng)戰(zhàn)爭(zhēng)的制勝規(guī)則。因此，中國不僅要著眼于信息化技術(shù)發(fā)展，更要放眼于人工智能等“顛覆性”技術(shù)發(fā)展，謀求戰(zhàn)略超越、“彎道超車”，在后信息化戰(zhàn)爭(zhēng)形態(tài)上掌握先機(jī)。中國很早就開始探索人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用，經(jīng)過研發(fā)的決策支持系統(tǒng)(decision support system，DSS)借助計(jì)算機(jī)，基于模型庫、數(shù)據(jù)庫、知識(shí)庫、方法庫等，為決策人員提供幫助，這些系統(tǒng)在實(shí)際軍事行動(dòng)中得到了應(yīng)用。當(dāng)前，隨著新軍事變革對(duì)體系致勝概念的不斷深入，更要充分利用人工智能技術(shù)，壓縮指揮員在觀察—判斷—決策—行動(dòng)(OODA)循環(huán)中的時(shí)間，實(shí)現(xiàn)多域聯(lián)合作戰(zhàn)指揮和控制的目標(biāo)，以取得未來戰(zhàn)爭(zhēng)的制勝權(quán)。
把握識(shí)別人工智能戰(zhàn)爭(zhēng)屬性
軍事智能化是軍事信息化的繼承與發(fā)展，成為推動(dòng)信息化戰(zhàn)爭(zhēng)形態(tài)逐步演變的強(qiáng)大技術(shù)力量。評(píng)價(jià)一種軍事技術(shù)的戰(zhàn)爭(zhēng)屬性是否強(qiáng)大，關(guān)鍵看其向軍事領(lǐng)域全面滲透、轉(zhuǎn)化為戰(zhàn)爭(zhēng)決勝能力的強(qiáng)弱。智能化具有控制思想與控制行動(dòng)的雙重能力，可以滲透到軍隊(duì)指揮決策、戰(zhàn)法運(yùn)用、部隊(duì)控制等活動(dòng)中;或直接用“智慧炸彈打擊對(duì)手思想意識(shí)，瓦解戰(zhàn)斗意志;或?qū)⒅悄芪锘轿淦鳌⒅笓]系統(tǒng)，嘗試用機(jī)器學(xué)習(xí)、遷移學(xué)習(xí)等智能算法解決對(duì)抗條件下態(tài)勢(shì)目標(biāo)的自主認(rèn)知，幫助指揮員快速定位、識(shí)別目標(biāo)并判斷其威脅程度等，以智能方式控制機(jī)械化、信息化裝備，以“智慧釋放”替代“信息主導(dǎo)”，激發(fā)最大作戰(zhàn)效能。
1)智能化軍事指揮。指控系統(tǒng)是作戰(zhàn)體系的中樞神經(jīng)，是戰(zhàn)爭(zhēng)制勝規(guī)則的核心部分，指揮控制方式智能化，能克服人性弱點(diǎn)困擾，提升指揮決策的正確性。
2)智能化軍事裝備。主要是各種無人化武器的運(yùn)用，打造立體無人作戰(zhàn)體系。將人與機(jī)器深度融合為共生的有機(jī)整體，讓機(jī)器的精準(zhǔn)和人類的創(chuàng)造性完美結(jié)合，并利用機(jī)器的速度和力量讓人類做出最佳判斷，從而提升認(rèn)知速度和精度。如美軍發(fā)明的“意識(shí)頭盔”，能感應(yīng)人的腦電波，具有識(shí)別敵我的“讀心術(shù)”功能。
3)智能化作戰(zhàn)方式。從搜索發(fā)現(xiàn)目標(biāo)，到威脅評(píng)估，到鎖定摧毀，再到效果評(píng)估，均不需要人參與，作戰(zhàn)中實(shí)現(xiàn)無人化。此外，還可以思想、心理為打擊控制目標(biāo)，通過智能化方式手段，遵循思想認(rèn)知規(guī)律，進(jìn)行思想控制和精神“軟打擊”的作戰(zhàn)行動(dòng)，其中也包括“文化冷戰(zhàn)”和“政治轉(zhuǎn)基因”等意識(shí)形態(tài)滲透破壞行為。
重視完善人工智能基準(zhǔn)標(biāo)準(zhǔn)
標(biāo)準(zhǔn)、基準(zhǔn)、測(cè)試平臺(tái)，以及人工智能在軍事領(lǐng)域的應(yīng)用對(duì)于引導(dǎo)和促進(jìn)人工智能技術(shù)的研發(fā)來說是必不可少的。標(biāo)準(zhǔn)的制定必須加快跟上人工智能在軍事領(lǐng)域應(yīng)用的快速發(fā)展，為智能化戰(zhàn)爭(zhēng)水平的評(píng)估提供基礎(chǔ)和可靠依據(jù)。
1)制定人工智能標(biāo)準(zhǔn)。標(biāo)準(zhǔn)包括可以持續(xù)使用的要求、規(guī)范、準(zhǔn)則或特性，以確保人工智能技術(shù)滿足軍事領(lǐng)域功能性和互操作性等關(guān)鍵目標(biāo)要求，并能夠可靠安全地運(yùn)行。
2)建立人工智能技術(shù)基準(zhǔn)。由測(cè)試和評(píng)估組成的基準(zhǔn)，為制定標(biāo)準(zhǔn)和評(píng)估標(biāo)準(zhǔn)遵從性提供了量化措施。基準(zhǔn)通過促進(jìn)旨在解決戰(zhàn)略性選擇的想定的進(jìn)展來驅(qū)動(dòng)創(chuàng)新;還可以提供客觀數(shù)據(jù)來追蹤人工智能科學(xué)和技術(shù)的發(fā)展。為了有效地評(píng)估人工智能技術(shù)，必須制定并標(biāo)準(zhǔn)化相關(guān)的且有效的測(cè)試方法和指標(biāo)。標(biāo)準(zhǔn)測(cè)試方法將規(guī)定評(píng)估、比較和管理人工智能技術(shù)性能的協(xié)議和程序，并通過指標(biāo)量化人工智能技術(shù)水平。
3)建立人工智能測(cè)試平臺(tái)。測(cè)試平臺(tái)是至關(guān)重要的，研究人員可以使用實(shí)際運(yùn)行數(shù)據(jù)，在現(xiàn)實(shí)系統(tǒng)和良好測(cè)試環(huán)境下的想定中進(jìn)行建模并實(shí)驗(yàn)。軍事領(lǐng)域擁有大量獨(dú)有的任務(wù)敏感型數(shù)據(jù)，應(yīng)當(dāng)建立安全且精準(zhǔn)的測(cè)試平臺(tái)環(huán)境，為人工智能研究人員提供獨(dú)特的研究機(jī)會(huì)等分享和驗(yàn)證人工智能模型和實(shí)驗(yàn)方法。
加強(qiáng)確保人工智能安全防護(hù)
從技術(shù)層面看，人工智能在軍事領(lǐng)域應(yīng)用利于減少專業(yè)軍事人員數(shù)量，降低培養(yǎng)和維護(hù)成本，可以最大限度保障人的生命安全;而且，人工智能不會(huì)感到疲倦，也不受感情因素影響，可以避免人為失誤，從而準(zhǔn)確完成任務(wù)。但人工智能也存在著一些不足，主要是由于下列原因而面臨著重要的安全和防護(hù)方面的挑戰(zhàn)。
1)技術(shù)復(fù)制。在開發(fā)和制作方面不需要高端技術(shù)，可能被恐怖集團(tuán)掌握，用于制造自殺性恐怖襲擊等。由于小國也較容易制造出更有威力的武器，因而可能引發(fā)新的糾紛和擴(kuò)軍競(jìng)爭(zhēng)。
2)黑客攻擊。無法排除系統(tǒng)遭黑客攻擊、程序被修改而導(dǎo)致人工智能武器錯(cuò)誤行動(dòng)等的可能性。
3)復(fù)雜和不確定的環(huán)境因素。在很多情況下，人工智能系統(tǒng)被設(shè)計(jì)為可以在有大量的不能被詳盡檢查或測(cè)試的各種潛在情況的復(fù)雜環(huán)境中工作，一個(gè)系統(tǒng)甚至可能會(huì)面對(duì)設(shè)計(jì)期間從未考慮過的環(huán)境。
4)突發(fā)行為。對(duì)于部署后再進(jìn)行學(xué)習(xí)的人工智能系統(tǒng)來說，系統(tǒng)的行為在很大程度上是由無監(jiān)督情況下的學(xué)習(xí)階段來決定。在這種情況下，很難對(duì)系統(tǒng)的行為進(jìn)行預(yù)測(cè)。
5)目標(biāo)誤設(shè)。由于很難將人類目標(biāo)轉(zhuǎn)化為計(jì)算機(jī)指令，所以為一個(gè)人工智能系統(tǒng)設(shè)定的目標(biāo)可能無法與程序員的預(yù)期目標(biāo)相匹配。
6)人機(jī)交互。在很多情況下，人工智能系統(tǒng)的性能在很大程度上受到人機(jī)交互的影響，由此，人類反應(yīng)的變化可能會(huì)影響系統(tǒng)的安全性。
為解決上述問題及其他可能存在的問題，需要加強(qiáng)人工智能的安全和防護(hù)，包括改進(jìn)可解釋性和透明度、建立信任、加強(qiáng)驗(yàn)證和確認(rèn)、制定防攻擊安全策略等，使人工智能系統(tǒng)最終實(shí)現(xiàn)“遞歸自我改進(jìn)”，從而確保長期人工智能的安全性和價(jià)值一致性。
04 結(jié) 論
人工智能的誕生與發(fā)展是20世紀(jì)最偉大的科學(xué)成就之一，也是新世紀(jì)引領(lǐng)未來發(fā)展的主導(dǎo)學(xué)科之一。要敏銳把握人工智能快速發(fā)展的契機(jī)，打破固化思維，促進(jìn)智能化向軍事領(lǐng)域內(nèi)深度擴(kuò)散與滲透，加快推進(jìn)中國軍隊(duì)智能化在變革戰(zhàn)爭(zhēng)形態(tài)中的基礎(chǔ)主導(dǎo)作用。
1)人工智能的快速發(fā)展使得新的戰(zhàn)爭(zhēng)形態(tài)——“智能化戰(zhàn)爭(zhēng)”指日可待，中國要敏銳把握并布局人工智能技術(shù)在軍事指揮、軍事裝備、作戰(zhàn)方式等方面需突破的關(guān)鍵核心技術(shù)，控制打贏未來戰(zhàn)爭(zhēng)的制高點(diǎn)。
2)人工智能技術(shù)的發(fā)展是技術(shù)群的發(fā)展，在促進(jìn)智能化向軍事領(lǐng)域滲透過程中，要注重基準(zhǔn)標(biāo)準(zhǔn)的建立，以及安全防護(hù)的整體統(tǒng)籌，確保人工智能技術(shù)群的協(xié)調(diào)發(fā)展以及在軍事領(lǐng)域的規(guī)范與安全使用。
