執(zhí)政8年，奧巴馬親眼見證了黑客成長為往屆總統(tǒng)都從未見識過的巨大威脅。美國情報和司法機構(gòu)處理了各種各樣的黑客事件，從2009年的谷歌被黑，到這次大選中俄羅斯人的各種搗亂。因此，奧巴馬終于學(xué)會了制敵機先。這其中就包括為看起來像是科幻小說的各種可能性做好準(zhǔn)備。比如說，機器學(xué)習(xí)訓(xùn)練的人工智能(AI)被賦予盜取美國核武器代碼這種事。

在麻省理工學(xué)院(MIT)媒體實驗室主任喬伊·艾拓和《連線》雜志主編斯科特·達迪奇的獨家采訪中，奧巴馬表達了對AI潛在危險的擔(dān)憂。在黑客能盜取560萬聯(lián)邦雇員指紋或締造現(xiàn)代版水門事件的時代，他擔(dān)心先進的對手是否會利用AI來滲漏政府最敏感的系統(tǒng)。

人工智能黑客或黑客工具這種想法，不僅僅是一種預(yù)言。五角大樓的國防高級研究計劃局(DARPA)就正在研制AI攻防軟件。今年夏天的Defcon大會DARPA挑戰(zhàn)賽上，該機構(gòu)讓AI系統(tǒng)捉對廝殺，比拼實時查找、利用、修復(fù)軟件安全漏洞的能力。

奧巴馬稱，AI攻擊的可能性并不代表著網(wǎng)絡(luò)世界末日，但確實需要加強美國對所有黑客的防御，無論是人類黑客還是機器黑客。“我對國家安全團隊的指令是，不用太擔(dān)心機器顛覆世界，擔(dān)心一下非國家黑客或敵對黑客滲透系統(tǒng)的能力比較靠譜。從這個意義上講，我們現(xiàn)在做的很多網(wǎng)絡(luò)安全工作并沒有概念上的不同。僅僅是說我們需要做得更好，因為部署這些系統(tǒng)的人現(xiàn)在就要好得多。”

奧巴馬警告的那種基于機器學(xué)習(xí)的AI，已經(jīng)被部署在了網(wǎng)絡(luò)安全世界——雖然僅僅用于防御，而不是攻擊。

開發(fā)人員長久以來一直在用機器學(xué)習(xí)——以樣本數(shù)據(jù)訓(xùn)練軟件代碼的“自學(xué)習(xí)”過程，來磨煉垃圾郵件過濾器和識別惡意軟件。但另一方面，對防御堅固系統(tǒng)造成嚴(yán)重威脅的真正自動化的攻擊性黑客AI，可能還有好幾年的路要走。

不過，研究人員已經(jīng)勾勒出機器學(xué)習(xí)會被如何利用來攻擊這些基于機器學(xué)習(xí)的系統(tǒng)，而DARPA挑戰(zhàn)賽第一次展示了計算機可以使用AI來狩獵對手代碼中可供利用的漏洞，進而入侵另一臺機器。

在《連線》的專訪中，總統(tǒng)稱他對網(wǎng)絡(luò)安全的思考，并不是站在對黑客進行邊界防御的立場，而是要建立清除內(nèi)部威脅的免疫系統(tǒng)。傳統(tǒng)上，當(dāng)我們思考安全和自我保護時，我們想的都是盔甲和城墻。但逐漸地，我們發(fā)現(xiàn)自己正看向機器，然后想到病毒和抗體。

奧巴馬謹(jǐn)慎指出，所有這一切，僅適用于作為高度進化的工具而被使用的專門AI威脅，不滿足更幻想性的完全自治AI情形——有自己的意識和動機但很可能不與人類為友的AI。對這種電影里“天網(wǎng)”類型的威脅，奧巴馬開出的處方很接地氣：“放個人在電源旁邊，看到不妙的跡象就拔插頭吧伙計。”