從1956年起，人工智能經歷了40多年的發展。目前，AI的目的是讓計算機像人一樣思考。

那么，當AI學會思考之后，它們將會帶給人類什么呢?它們將會怎樣影響未來世界?

01.人工智能的影響

AI的實現有兩種方式。第一種方式是用傳統程序使系統呈現智能，不考慮該方法與人類的方法是否一致，稱為工程學方法(Engineering Approach)，它在文字識別、下棋等領域內取得了很大進展。

另一種方式是模擬法(Modeling Approach)，它不僅看效果，還要求實現方法和人類的方法相類似。遺傳算法(Generic Algorithm，GA)和人工神經網絡(Artificial Neural Network，ANN)屬于模擬法。

遺傳算法模擬人類的遺傳和進化機制，人工神經網絡模擬人類大腦中神經細胞的活動方式。為了得到相同的智能，兩種方式都可使用。

[[243462]]

工程學方法需要詳細的程序邏輯，對于簡單的AI很方便。對于發展系統來說，其邏輯會很復雜，很煩瑣，很容易出錯。使用模擬法，編程者要設計一個智能系統進行控制。起初系統什么也不懂，但它能學習，漸漸適應環境，應付各種復雜情況。該系統會犯錯，但它會吸取教訓，下一次運行時會改正，不會一直錯下去。對于復雜的應用，模擬法比工程學方法更有效。

AI與人類思維有著本質區別：AI是無意識的機械的物理過程，人類思維是生理和心理過程;AI不具備社會性;AI沒有人類意識特有的能動的創造力;兩者總是人腦的思維在前，電腦功能在后;AI按人類預定的程序而定，人類意識常常是隨機和無法預定的。 無論前景如何，AI革命已經起步。支撐AI革命的是AI算法，這些算法為AI提供了核心動力。目前，相關算法已應用在很多領域中，為人類生活和工作提供了很大的方便。最能代表AI的是計算機自創算法。例如，在計算機得到了直升機控制數據后，它會利用深度學習找出讓直升機倒飛的算法。未來的深度學習等AI算法能幫助人類尋找愛人、識別聲音。

AI將往何處去?和人類的發展相比，計算機及AI的發展速度超乎想象。從第一臺計算機的誕生到今天計算機無所不在，并給社會帶來了巨大變革的過程僅用了60年。

AlphaGo擊敗韓國圍棋國手李世石，證明了AI在圍棋上超過了人類。無法想象，AI將來會有怎樣的發展。有人認為AI在2045年會超過人類。有人憂心忡忡，他們認為一旦AI超越了人類智能，就會對人類構成威脅，而當它們與人類的目標不一致的時候，后果將無法想象。

AI的威脅還包括：一些人可能會失業、武器的殺傷力越來越強、人類對機器的依賴及個人隱私越發不能保證。很多專家認為AI有很多好處。AI能在醫療、環保等方面做出貢獻。 歷史上的每次技術革命都會帶來一定程度的恐慌。從18世紀的工業革命到電力的出現引起了一系列的恐慌和社會變革。AI一出現就引起了恐慌。

1958年，第一個神經網絡系統出現后，有報紙就稱機器在不久后會有自己的意識。現在的AI研究已經不再局限于學術界了，很多大企業紛紛參與其中，并從中獲利。盡管如此，AI也還只是能夠識別物體和理解特定的語言。它們離擁有智慧還很遙遠。

有人舉了一個形象的例子來描述當前的AI：今天的AI就像在一個大霧天，在一條有一面墻擋著的公路上開車。我們只知道下一步該怎么走，但看不見未來的墻，只是快樂地往前走，直到燃料耗盡。

2015年1月，MIT物理學家馬克斯·特格馬克(Max Tegmark)召集了第一屆討論AI威脅的會議。其中的一個核心內容就是AI何時能超過人類。有專家們認為需要數百年，也有人認為會很快實現。特格馬克給出的中間答案是40年。他指出，AI不需要本身是邪惡的才會對人類構成威脅。 特格馬克說，現在討論AI的威脅或許為時過早。但這和原子彈的研究相似，科學家一開始都沒想過它對世界的影響，也沒有提前采取措施。如果提前想到它可能的威脅，現在的世界會不會是另外一番景象呢?

有人認為，AI的威脅很遙遠，能夠威脅到人類生存的AI只存在于科幻小說之中。AI的行為受人類設計的控制，無論未來怎樣，都是人類的創造，因此能夠控制。 AI對人類的影響包括對一些職業的沖擊。相比于20世紀90年代，波音公司的雇員減少了1/3，生產效率提高了20%。 從2000～2015年，美國有500萬個工作被機器取代。AI給社會帶來的影響堪比蒸汽機。以通用汽車的一家工廠為例，在經歷了汽車的巔峰時代后，該工廠走向沒落，大量工人失業。特斯拉收購了該工廠，并迅速將其變成了自動化工廠。有1000臺工業機器人在工作。特斯拉的生產效率為每周1000輛電動車。

令人驚奇的是，與通用汽車公司的工廠相比，生產每輛車的人工是其3倍。這說明工廠自動化非但沒有讓工人失業，反而帶來了新的就業機會。 AI會給戰爭形態帶來變化。機器人時代的戰爭將采用無人機、智能化單兵作戰裝備、無人駕駛潛艇等。軍事技術變革中包括減少風險、減少花費。軍隊采用智能裝備的問題是在哪些地方采用它們以及在多大范圍內采用。

目前，美國的F-18戰斗機已經能從航母甲板上自動起降。大大減少了飛行員的操作難度和風險。大多數智能裝備只是人類能力的擴展。機器人投入戰爭引起了爭議——機器有權利殺人嗎?前些日子，一位年輕人在無人機上裝了一把手槍引起了社會的恐慌。

2014年，聯合國就開始呼吁制定相關公約。 自從人類進入文明社會后，技術創新就一直推動著社會進步。從近代的工業革命開始，社會變革的速度越來越快。大量自動化機器的不斷涌現，取代了傳統工業。計算機問世后在很多計算問題中替代了人工計算。不過計算機也催生了很多相關的工作：程序員、處理器架構師、計算機系統工程師等。AI面臨著類似的情況。

迄今為止，AI應用最廣泛的領域是有監督的機器學習，即算法需要從訓練數據中進行學習，它不能像人那樣能多方面地間接學習。訓練數據的數量和質量對于機器學習來說非常重要。搜集訓練數據的過程必須慎重，谷歌每年花費大量時間來搜集并整理用于機器學習的數據。這一過程永無止境。搜集訓練數據是機器學習中最需要人工參與的部分。

在很多領域內，計算機能加速解決問題。但計算機在很多看似簡單的方面卻無可奈何。AI也有類似的問題：AI很容易實現80%的預測或分類精度，但很難將精度提高到99%。機器學習十分清楚自己的缺點。精度較低時，AI會將情況告訴工程師。目前，AI使用最多的是“人工參與循環鏈”模式：在AI不能決定時，人類立即參與其中。

過去，人們總認為AI產品離現實還很遠。實際上，以AI理念為基礎的產品的研發遠遠超出了人們的想象。臉書M(Facebook M)就是這類產品。AI被用來處理郵件并解決相關問題，再將復雜情況交予工程師解決。無人車和自動取款機(ATM)也是。

目前，無人車還離不開人工參與：無人車在正規停車場內可以自動泊車，在順暢的高速公路上可以自動駕駛，但在復雜路況下，則必須交給人工駕駛;ATM只能處理能夠識別的支票和現金，破損的支票和現金必須由人工處理。AI能解決很多問題，但仍有一些問題需要人工解決。AI的應用提高了相關工作的效率。在一些情況下，它會減少所需員工;但也會創建新市場，帶來新的就業機會。

AI的主動學習模式是上述兩種應用的結合。通過把訓練數據反饋給AI，以提高AI的自身性能。AI最初不能解決的問題，AI會以人類解決問題的方式訓練自己。未來的AI會在自我學習和訓練中提高自身的能力，以此來自我完善。這樣的AI能更多地為人類帶來便利，提高人類的工作效率，但也讓人們對AI產生了恐懼。

02.人工智能的未來

至今為止，人類經歷了四次工業革命，今天的互聯網就是所謂的工業革命4.0。這一波由信息技術創新帶來的工業革命必定和以往的工業革命一樣給社會帶來了某種結構性變革，這是人們的普遍認知。即將來臨的AI還會為我們帶來某種比人類社會結構性變革更為深遠的東西，人類將以自身創造的機械來代替其智力活動。這是一種人類從未經歷過的全新的東西。

以往的技術創新擴展了人們對于大自然的權能和認知，物理學讓人們找到了宇宙的宏觀運行與微觀結構的奧秘，制造一顆人造太陽所需的只是大學碩士生的課程。 在生物科學中，人們也已經掌握了遺傳的奧秘，選擇性的繁殖已經不是遙不可及的事情了。但是，下一波的技術創新是人類在創造自身的智力，而且是在以一種機械的、無機的方式在實現這種智力。這不但會給社會帶來結構性的變革，更重要的是它將給人們的觀念世界帶來變革。人類的工業革命用科學代替了神和上帝，人類自詡已經掌握了自然的奧秘。

那么，AI將為人類帶來什么呢?它很可能是一個超出人類自身智力水平的超級大腦。讓我們來預測一下，這將是怎樣的一個超級大腦吧。

最低一級的AI是狹義人工智能(Artificial Narrow Intelligence，ANI)，即專業AI，是AI在專業領域里的運用。例如那些打敗棋類世界冠軍的AI，它們只做一件事。 高級的AI是通用人工智能，即類人AI。這樣的AI是和人有同樣智力和理解力的計算機，可以做人能做的事情。AGI被定義為“具有普通的人類心理能力，包括解釋、計劃、解決問題、抽象思考、理解復雜概念、快速學習和經驗學習的能力”的AI。

最高一級的AI是超級人工智能(Artificial Super Intellgence，ASI)，一些學者把ASI定義為“在科學創造力、普適智慧和社會技能等各個領域都比最強人類大腦還要聰明的智能”。ASI是一個棘手的話題，因為伴隨著它的兩大話題是人類的不朽和滅絕。

值得慶幸的是，目前人們只掌握了AI最低等級ANI，日常生活中ANI被廣泛使用。我們如今生活在廣泛運用ANI的世界里。今天的ANI給我們的生活帶來的是方便和效率。最可怕的情況是，ANI出現問題或編程錯誤導致一些人為的災難，如電網癱瘓、核電設備故障或股市災難。

ANI在人類掌控的范圍之內。這個正在迅速發展的相對無害的ANI是改變世界的先驅。每次ANI的創新都在為AGI和ASI添磚加瓦。它是原始狀態的DNA，尚無生命，一旦有一天它醒了，會給人類帶來什么呢? 創造一個和人腦一樣聰明的計算機是件激動人心的事。因為迄今為止，人腦是宇宙中已知的最復雜的東西。創造AGI最難的部分不是它的邏輯功能，而是它的理解力。讓AGI理解貓和狗的不同，要比讓它在棋類上打敗人類難得多。人的理解力源于千百年的進化，人們至今仍不清楚產生理解力的物理過程，盡管對于人類而言，這一過程毫不費力。

要想達到AGI的水平，計算機要學會理解事物間的微妙關系，如表情變化等。怎么樣才能實現AGI呢?首先要增強計算機的能力，該能力能用大腦每秒計算總量(CPS)來表示，有一個估算CPS的方法，即找出某人大腦某一結構的CPS與該結構的質量之比，然后與整個大腦的質量相乘，就是某人大腦的總CPS估值。有人用此方法測試了很多人的CPS并和專業測試的CPS值進行比較，結果相似，為10千萬億個CPS。

今天世界上的計算機達到這一水平了嗎?中國的天河2號計算機已超過了它，為34千萬億個CPS。有人建議用1000美元對CPS的購買力來衡量計算機性能。到了1000美元可以購買10千萬億個CPS(即人類大腦水平)的時候，AGI就進入人類的日常生活了。

今天的計算機已能用1000美元達到老鼠大腦的水平了，即人腦的一千分之一。計算機進步奇快，1985年的這個數字是一萬億分之一;1995年是十億分之一;2005年是一百萬分之一;到了2015年是一千分之一。這樣的話，2025年計算機的能力就能達到人腦水平了。也就是說，計算機硬件已經有AGI的能力了。

光有計算能力并不是AGI，接下來還要使計算機更聰明。三種最常見方法是：

(1)復制大腦。專家們在對人腦進行反向工程，即探究自然進化是怎樣使人腦成為今天這樣的。有人說，2030年這一工作就能完成。做到了這一點，復制大腦就不難了。

(2)全腦仿造。即將人腦進行原子層面的掃描，用軟件組裝出準確重建的三維人腦模型，再在功能強大的計算機上運行該模型。該計算機將具有人腦的一切能力，只要對它進行和人一樣的學習和信息收集即可。

就是說，只要把一個人的腦部結構上傳到計算機中，其完整的人格和內存就會在計算機里得到準確復制。也就是說張三的大腦在他死前是張三的，張三死后計算機會作為張三繼續存在，這是AGI的極致，這以后的ASI，人類將無法想象。

人類已經做到了對1毫米長的扁形蟲大腦的仿真，它有302個總神經元，人腦有1000億個總神經元。盡管看起來還很遙遠，但我們已經征服了扁形蟲，不久就會征服螞蟻，接下來是老鼠，然后你會發現，人腦也是可能的。

(3)用進化過程復制大腦。直接復制大腦太難，復制它的進化過程則簡單得多。在現實世界里，最佳設計方案是創新的、面向機器的方法，而非完全仿生。該方法稱遺傳算法，其原理是：進行多次績效評估。一組計算機同時嘗試完成某一工作，將成功完成的計算機和程序重組成一臺新計算機。淘汰不太成功的，多次迭代后，最好的計算機勝出。

該方案的難度在于如何建立能自動運行的評估機制。人腦自然進化用了幾十億年，AGI要在幾十年里完成類似的進化，這可能嗎? 相對自然進化而言，AGI有很多優勢。自然進化無法預見，會產生無益突變，AGI是可控的，它只生成有益的、有針對性的后代;自然進化無目的，環境選擇甚至會淘汰高智商，AGI的進化是為提高智商設計的;自然進化中提高智力比AGI復雜得多，計算機進化只需用電即可。和自然進化相比，AGI的進化快得多。

真正的AGI很可能是通過計算機的學習和自身優化，即讓計算機成為計算機專家來實現的。人類對AGI的恐懼來自它的進化，一旦AGI的智商超出了人類，人類將無法控制其進化進程，也就是說人類無法預期AGI會給人類帶來什么。這是AI恐懼的根源。

那么ASI呢?按定義，ASI是在科學創造力、普適智慧和社會技能等各個領域都比最強人類大腦還要聰明的智能。以現有的技術水平，人類根本無法預知ASI會是怎樣的，更無法預知ASI的創造過程。 把AI和人腦進行比較是一件有趣的事。人腦神經元的最大輸出速度為200Hz，今天微處理器的速度是2GHz，比人腦神經元快10萬倍;人腦的內部傳輸速度為每秒120米，計算機的這一速度是光速;在存儲量上，人腦就更無法和計算機相比了;在可靠性和耐用性上，計算機也比人腦強得多，而且故障率幾乎為零。 人類以其自身的智能戰勝了其他所有物種。語言、人類組織、書寫及印刷術增加了人類的智慧。今天的互聯網讓人類的智慧更上了一層樓，人類這種集眾之慧的能力超出了其他所有的物種。

但是，計算機能做得比人類更好，某一特殊AI能和互聯網上的任何一臺計算機協調一致，并能將網絡上的一組計算機作為有共同目標的整體，這種協助不會有人類那樣的不同意見、不同動機和不同興趣。這種合作產生的效率、精準度和一致性是任何人類組織都無法相比的。具有這種優勢的AGI，戰勝人類只是其發展過程中的一個階段而已，它的最終目標就是超級人工智能ASI。

下一步呢?按這樣的邏輯推演下去，人類創造了AI和AGI，AGI創造出了ASI，人類根本無法理解ASI的所作所為。在ASI面前，人類無能為力，人類要理解ASI，就像一只螞蟻要理解一位高級程序員的程序構架一樣，是不可能的。

人類社會有一條鐵律——智慧意味著權力。也就是說ASI將成為地球史上最強大的存在，包括人類在內的所有生物，都將臣服于它。如果ASI是善良的，它會以實時控制地球上每個原子的能力，開發出各種超級技術用以對抗人類的衰老，治療人類和地球上所有生物的疾病，消滅饑餓和死亡。今天我們面臨的所有問題，在ASI面前都將不再存在，人類將從此得到永生。 如果ASI是邪惡的，那么它出現的那一刻就是地球上所有生命終結的一刻。就當今的人類而言，如果超級人工智能ASI成為現實，它就是萬能的神。這難道是我們開發人工智能的初衷嗎?