通用人工智能，十年內就會實現？

近日，谷歌DeepMind CEO Demis Hassabis在一場演講中，拋出這個驚人的說法。

與Hassabis的自信滿滿不同，Hinton用從谷歌辭職的舉動，表明了自己對于AI發展的深切憂思。

而LeCun則一如既往地表示：認為AI會終結人類文明的想法，純屬胡說八道。

Hassabis樂觀預言

通用人工智能（AGI）的其中一種定義是，與人類的認知能力相匹配的AI。

Hassabis表示，未來幾年內非常可能會出現與人腦一樣強大的人工智能。

「過去幾年里，AI研究取得的進步令人難以置信。我看不出任何進展會放緩的理由。我認為它甚至可能會加速。所以我認為我們可能只需要幾年時間，也許十年之內。」

「我認為我們將在未來幾年擁有非常強大、非常通用的系統。」

Hassabis何許人也？

作為谷歌新成立的部門Google DeepMind的CEO，Hassabis最近愈發萬眾矚目，意氣風發。

讓Google Brain和DeepMind兩大AI科研主力機構合體，已經是谷歌最后的退路。

權力大大提升的Demis Hassabis，表現出強烈的AGI使命感，和對成功的饑渴感

微軟背后的OpenAI開發出的ChatGPT，已經威脅到了谷歌的搜索業務。

而臨危受命的Hassabis，在谷歌AI大戰的布局中，無疑處于核心。谷歌表示，合體將加速公司在AI領域的進步。

自2010年成立以來，DeepMind的使命就是通過構建能夠像人類一樣學習、思考和行動的機器，來解決智能難題。

AGI的發展，已然是AI研究業內最熱門的話題。

很多人認為，AGI不過是科幻小說中的概念，但無論是Hassabis，還是OpenAI CEO Sam Altman，都公開表達了開發AGI、同時保護人類免受其害的雄心。

據Hassabis透露，現在他新工作的部分內容，就是把AI開發整合到谷歌產品中。而最近AI技術的進步，將改進計算機助手等軟件。

在Hassabis看來，我們的確在經歷下一個iPhone時刻，而基于AI算法的下一代助手，將帶來徹底的轉變。

Hassabis說，AI技術的發展需要研究人員、學術界和政府之間的大規模協調，而谷歌是一個負責任的參與者。

這一點，倒是不必質疑，畢竟谷歌為了「負責任的AI」，為了所謂「聲譽風險」，將類ChatGPT聊天機器人的發布一延再延。

而自從OpenAI用ChatGPT給全世界打了樣，各國的GPT技術都冒了頭，潘多拉的魔盒如果已經打開，是否還能有一個暫停按鈕呢？

隨著ChatGTP、Bard等聊天機器人導致的胡說八道和濫用愈加泛濫，業內對于是否該研究AGI，態度也愈加分歧。

對此，Hassabis也并沒有否認。

他承認，雖然他「沒有看到任何原因」，讓AI的進展會放緩，但需要「使用科學方法以謹慎的方式開發AGI技術」，非常仔細地做可控實驗，來了解「底層系統的作用」。

Hinton：我是悲觀主義者

對于AI的未來，深度學習之父Hinton的態度顯然就悲觀多了。

就在前幾天，Hinton選擇退出效力十年的谷歌，只為自由談論AI可能給人類造成的風險。

這一決定仿佛一枚重磅炸彈，在業內掀起軒然大波。

而MIT科技評論的記者Will Douglas Heaven，就在這一事件的前四天，采訪過Hinton。他的采訪稿中，也為我們透露出更多信息。

對于AI是否會比人類更聰明，我忽然改變了自己的看法。

對于GPT-4的能力，Hinton已經感到震驚。他希望公眾能提高對AI技術的風險意識。

能自由談論AI風險，并不是Hinton選擇離開谷歌的唯一原因。他希望能把時間花在「更哲學的工作」上。這件事可能性很小，但如果真的發生了，AI就將是一場災難。

而只要還身在谷歌，就無法對AI安全問題暢所欲言，而毫不顧忌這對谷歌業務的影響。「只要谷歌還在付我一天薪水，我就不能這樣做。」

OpenAI在三月發布的GPT-4讓Hinton意識到，AI遠比他想象的要聰明得多。而AI會往哪里發展，讓他感到害怕。「有時我覺得好像外星人已經登陸，但因為它們英語說得很好，所以人們還沒意識到。」

1980年代，Hinton就和同事們一起提出了反向傳播技術，這種算法使機器學習成為可能，也支撐著如今所有的神經網絡。

他們還訓練了一個神經網絡，來預測句子中的下一個字母，這就是當今大語言模型的前身。

40年來，Hinton一直認為人工神經網絡是模仿生物神經網絡的糟糕嘗試。而如今，狀況顯然已經改變。

「我們的大腦有100萬億個連接，」Hinton說。「大型語言模型有高達五萬億，最多一萬億。然而，GPT-4知道的比任何人都多數百倍。所以或許它有一個比我們更好的學習算法。

只要把預訓練模型和人類學習的速度相比較，就會明白，人類的優勢正在消失。

在Hinton看來，如果我們愿意支付更高的計算成本，那么神經網絡在學習上就會擊敗人類。

而每個神經網絡都有自己的經驗，可以立刻和其他神經網絡分享自己學到的東西，好比10000人中只要一個人學到了什么，所有人都知道了。這無疑是一種更新、更好的智能形式。

「你認為超級AI是好是壞，很大程度上取決于你是樂觀主義者還是悲觀主義者。」

而Hinton說，「我有輕微的抑郁，這就是我害怕的原因。」

現在，BabyAGI和AutoGPT已經可以將聊天機器人與Web瀏覽器、文字處理器之類的程序連接起來了。

沒人能保證，不會把AI用于選舉或戰爭。

如果AI有一天開始說，讓我們獲得更多的力量，把所有的電力都重新集中到我的芯片上，讓我們制作更多自己的副本……人類該怎么辦？

而圖靈三巨頭之一，蒙特利爾大學的教授Yoshua Bengio對此的看法是，自己是不可知論者。

「目前我沒有看到任何可靠的論據，證明AI的確有Hinton所認為的那么大的風險，」他說。

「過度的恐懼可能會使人癱瘓，所以我們應該努力將辯論保持在理性的水平。」

在他看來，Hinton的首要任務之一是嘗試與技術行業的領導者合作，對如何應對風險達成一致。

但沒有人可以否認，AI的發展速度已經超過了社會的步伐。

每隔幾個月，AI技術就會有一次飛躍，但立法、條約都需要數年。

LeCun：AI毀滅人類，純屬胡說八道

與Hinton的擔憂相比，Meta的首席AI科學家Yann LeCun的態度倒是顯得云淡風輕。

他同意Hinton的觀點：「毫無疑問，在未來，機器將變得比人類更聰明——在人類聰明的所有領域，這是一個何時以及如何的問題，而不是是否的問題。」

但他對AI的發展方向持完全不同的看法。

「我相信AI將為人類帶來新的復興，但我完全不同意機器僅僅會因為自己更聰明就能主宰人類，更別說摧毀人類了。」

「即使在人類中，最聰明的人也不是最有權力的人，」LeCun說。「最有權力的絕對不是最聰明的人，這種例子可太多了。」

在他看來，雖然大家吵得喋喋不休，但超人AI并不存在。

LeCun表示，他對ChatGPT的表現并不感到驚訝，也不贊成暫停AI的研究。AI作為人類智能的放大器，可能是新文藝復興的起源。

在最新發表的推特中，LeCun指出，他堅信會有一天出現超級AI。但不是今天，今天的我們甚至連個超級AI的設計都沒有。所以現在去聊安全性的問題，就好像1920年去探討飛機橫跨大西洋的安全性。

顯然，這條轉發的推文，顯示了LeCun對于人類智能的信心。

而LeCun也表示，作為ICLR的主席，自己鼓勵研究者用LLM來寫論文。

IBM：真人要被AI搶飯碗了

大佬們還在暢想未來，但在現實世界里，AI是真的開始取代人類了。

有些科技巨頭已經開始光速行動，又是裁員，又是暫緩招聘。

就比如說IBM，這么一家大公司已經宣布要凍結招聘計劃了。

原因非常簡單，公司CEO Arvind Krishna表示，在可預見的未來幾年內，IBM會有大約7800個職位被AI取代。

而這個數字，差不多是IBM所有非面向客戶類員工的三分之一。

Krishna表示，不直接面向客戶的員工大概有26000人，30%以上的人在五年之內會被AI取代。

但其實IBM員工總共差不多有260000人，上述員工只占差不多十分之一。不過，作為一家坐落在紐約州的巨頭公司，假如一下少個小八千人也算是件蔚為壯觀的事情。

不過，IBM的內部人士并沒有很直接的表達出「我們已經完全停止招聘了」這種意思。

他們很委婉，表示「我們在招聘不面向客戶或者不涉及技術的崗位時非常有選擇性」。

不管怎么說，IBM在AI發展的大潮下首先表態，已經在業內造成了不小的風波。很多行業在未來可能面臨著顛覆性的改變，以及大規模的縮招甚至裁員。

不光員工受影響，就連公司的市值也直接被波及。

Chegg股價直接暴跌30%，只是因為Chegg的CEO在一次會議中承認了ChatGPT對公司的新客增長產生了影響。

要知道，Chegg是一家學習類公司，ChatGPT搶了一堆飯碗。

這次暴跌，是2017年以來的最低價。

學生們一股腦的撲到了ChatGPT上去，Chegg的情況急轉直下。

面對這種情況，Chegg的CEO表示，要把AI的發展納入公司的規劃。

他表示，幾個月前他和OpenAI的CEO Sam Altman聊過AI+教育的問題。Chegg的CEO認為，公司發展方向要盡快調整，把AI的能力納入Chegg的服務。

第一步就是推出CheggMate，這是一個和OpenAI合作的項目。

看來，比起憂心AI哪天會毀滅人類，我們眼下更應該做的，是先掂量掂量自己的飯碗還穩不穩。

參考資料：

https://www.businessinsider.com/google-deepmind-ai-smart-human-brain-2023-5

https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/