7月26日，世界人工智能大會（WAIC）在上海拉開帷幕。香港科技大學校董會主席、美國國家工程院外籍院士沈向洋和前Google CEO埃里克·施密特（Eric Schmidt）圍繞“人工智能全球合作展望”的主題，展開了一場“爐邊對話”，回顧了中國在AI領域的飛速發展，并探討了AI安全、中美合作等核心議題。

圖片

施密特強調，過去兩年，中國的AI技術，特別是DeepSeek和Mini Max、Kimi等大模型，已經取得了舉世矚目的成就。在發展的過程中，開源和技術合作將是推動AI健康發展的關鍵，但與此同時，技術濫用的風險也不容忽視。施密特對中美如何攜手應對這一時代變革充滿期待，認為只有通過開放對話，才能真正引領AI走向一個更加負責任和可持續的未來。 

以下為對話內容實錄：

沈向洋：歡迎你來到上海，埃里克。

埃里克·施密特： 大家好，非常高興來到上海，一座美麗的城市，謝謝大家，也感謝WAIC大會主辦方的邀請。

沈向洋：剛才辛頓先生的發言，的確給了我們很多思考和深度的想法，但是在這里面我也有很多的問題。

這次大會探討的主題特別好，有關全球AI治理的原則和標準，您和這么多的行業好友一起來到上海，談這些非常重要的話題，我對此也感到很興奮。你這次來中國待了好幾天了，去了不少的公司參觀，你覺得到現在為止，中國的AI發展如何？

埃里克·施密特： 中國人的工作態度非常出色，給我留下了深刻的印象。兩年多前，我與基辛格博士（前國務卿 Henry Kissinger）一起來到中國——非常懷念他，我們的好朋友、好導師基辛格博士。

當時我記得剛到中國時，我感覺中國還沒有完全認識到AI的潛力和力量。但在過去的兩年里，我們已經看到了中國AI模型的巨大進步，包括像DeepSeek、Mini Max、Kimi等大模型的發展，令人震撼。

他們在全球技術層面都取得了巨大的成就。中國同行及其公司在這個領域也取得了顯著的成績。但我們也看到一個非常大的區別：在中國，這些領先的AI模型并非所有主要模型都像美國那樣采取封閉策略。美國的大多數領先模型，尤其是語言模型，并不是開源的，也不開放權重。而中國則采取了開放權重的方式，這已經成為當前AI發展中的一個重要特點。我會在稍后的討論中深入探討這一點。

沈向洋：剛才你提到了基辛格博士，他是我們共同的朋友，也是我們中國人的老朋友，也是WAIC大會的老朋友。

四年前，我特別榮幸采訪過基辛格博士，也是在這次的WAIC系列會議。他提了一些非常深刻的想法，就是AI對人類的影響，尤其是他以一個歷史學家、政治家的獨特視角，來看待AI的影響。實際上你和基辛格，還有克雷格·蒙迪（Craig James Mundie）共同出了這部非常好的書——《人工智能時代與人類價值》。跟我們分享一下這本書具體講了哪些內容呢？

埃里克·施密特： 基辛格博士在他最后的15年的研究中，認為人工智能將會成為我們社會的一個非常大的一個挑戰。

盡管他對技術方面理解并沒有特別多，但是他作為哲學家和社會學家，帶來了一個深度的視角，聚焦人工智能會在社會層面帶來什么影響。就像剛才辛頓在演講中所說的，他特別擔心隨著人工智能的快速發展，會對人類的文明和尊嚴造成怎樣的影響，以及國家之間在這方面是如何進行競爭等問題。

基辛格給美國以及給中國提供了一個核心關鍵點的建議，就是要通過合作來防止AI帶來的負面影響、擁抱它帶來的正面影響。

人工智能帶來的正面影響有很多，比如健康領域、工程領域、氣候變化處理，不僅能推動科技的提升，還能幫助我們創造更好的社會等等，這些方面的優勢是無限的。并且，人工智能為我們每個人的生產力提升提供了幫助。但是，我們目前最大的擔憂是，如果你面對的這個智能體已非人類，并且比人類更聰明，那這時候該怎么辦？

沈向洋：你說的對，埃里克。其實在辛頓博士發言之前，我是很樂觀的。但是聽完他的發言后，我又感到很悲觀。我現在有另一個非常關注的問題。你認為中美之間如何能夠增強互信，并加強AI方面的合作呢？

埃里克·施密特：首先，我想說的是，整個行業普遍認為這些問題是可以解決的，但我們需要迅速行動。

因為科技發展的速度非常快。但只要我們投入足夠多的力量，付出足夠的努力，就能解決一切問題。

我認為，未來超級智能之間的協作最終是不可避免的。因為隨著技術的發展，我們將會擁有一個超級智能系統，未來這些系統會有能力去相互協作和協調。關于這一點的討論已經逐漸展開。

所以，我們需要讓中國和西方的研究人員能夠互相交流，合作探討，達成在價值觀方面一致性，比如我們如何維護人類尊嚴和對人工智能的控制權等。

基辛格博士推動了一系列項目，和中國重要的領導者達成的一致意見：建立持續對話機制，讓雙方清晰界定問題并共同尋求解決路徑。重點在于共享深度見解、風險研判與測試數據，避免任何一方因意外而產生誤判。所以關鍵在于，讓中國和西方的研究人員相互交流，在人工智能發展中共同守護人類尊嚴與主體地位。

圖片

沈向洋：我們都同意你說的。我們之間首先要進行對話交流，才能更好地理解對方的價值觀。在思考這些科技在傳播中的問題時，可能會面臨到兩個方面的問題：

第一，AI非常強大，我們需要思考如何防止其擴散？另一方面，您比任何人都更了解，并且支持開源技術。幾十年前，Linux系統和Android推動了開源技術的發展。您如何看待這兩者之間的平衡？

埃里克·施密特：我更傾向于支持開源。開源技術雖然有一些潛在風險，但我們可以通過設定一些限制措施來管理這些風險，并根據需要對其進行調整。與此不同，閉源公司通常受到政府監管，因此它們的操作受到更嚴格的控制，不容易出現這種問題。

我認為這里的核心是技術性的問題，我們可以與中國及其他開源技術的倡導者們合作。開源的擴散就像即時傳播一樣——如果你發明了一項技術，世界其他地方的人很快就會使用它。我們應該考慮這種方式，這里問題的關鍵在于技術的“編輯者”是誰，以及這些技術在哪些地方得以應用，在哪些地方去設置“防護欄”。理想的場景是，我們能根據人類的價值觀來訓練和對齊這些模型。

目前我們對深入研究一些模型的安全性還需要提升。在每一個案例中，只要稍微投入一點心力，就能夠識別出AI會出現一些不良行為，比如撒謊和欺騙問題，我們也在努力避免這些問題。

目前我們還沒有找到有效的制衡措施。這個問題尚未得到解決，但我認為它是非常重要的。如果基辛格博士今天在場，他一定會非常贊賞我們在技術上取得的進展，但他也會擔憂，比如是否未來會有一些國家或個人可能會沒有正確的利用這些強大的技術。

更進一步說，很多人認為在接下來的三年內，系統將會進行遞歸式自我改進。因此，我們必須非常小心，了解它們到底會學到什么，它們可能學習到的不僅是好的東西，也可能是有害的內容。

沈向洋：再次回到您的作品，上次我有機會和基辛格博士交流時，正值他的第一本和您合著的的書上市，即《人工智能時代與人類未來》（我注意到上次您和我的好朋友、技術專家丹尼爾·胡騰洛赫爾合作撰寫）。幾年后，他的第二本書《人工智能時代與人類價值》出版，這也基辛格博士和您的最后一本書。您曾作為谷歌CEO，近距離觀察到全球科技行業的進展，也曾親身參與推動谷歌、微軟和蘋果之間的激烈競爭，推動整個行業向前發展。關于您的管理經驗、行業經驗，是不是也會體現在自己的著作中？

埃里克·施密特：基于克雷格·蒙迪（微軟公司前首席研發策略長）和我的工作背景，可能我們更了解商業方面的情況。

在第二本書（《人工智能時代與人類價值》）中，我們在前面的部分也講到了，從古到今，世界上有很多多才多藝的人。那么現在我們相信通過人工智能，可以讓每個人都能夠有一個多才多藝的工具來幫助自己。這對于企業、我們每個人的工作和生活來說都帶來非常大的影響。但從總體來說，我們在治理、在相關討論上面還沒有做好準備。

我想說的是，作為最大的以及最重要的經濟體，美國和中國應該在這些問題上一起合作。因為我們的共同目標在于，要一起讓世界穩定，讓世界和平，要確保人類能夠控制住這些工具。

沈向洋：在技術方面，你會不會不同意杰弗里·辛頓所說的——其實這些國家沒有辦法技術合作，或者說，他們只能在面對共同的威脅時才進行合作？

埃里克·施密特：我是基辛格博士的學生，他的看法就是如果你坐下來，我們根據共同的目標進行談判的話，就可以實現目標。他愿意和任何人坐下來談。

在中國發展的歷史長河中，從一窮二白到改革開放，建立了現代的生活，再到后來實現了巨大的飛躍和很多方面的巨大成功。我們也能看到，在中國的上海等城市能夠生產一些先進的機器人等等，這些說明我們都有一個積極發展的價值觀。

我是樂觀主義者。我認為中國和美國可以建立信任，一步一步的建立，以前中美之間就曾經這樣合作過，我們也可以再次做到這一點，

沈向洋：謝謝Eric。看來我們兩個人對于未來的合作都很樂觀。關于AI和技術的未來，對于您來說，最感到振奮的是什么？

埃里克·施密特：簡單來說，現在許多國家和企業都在進行戰略規劃。比如，OpenAI的ChatGPT、Claude、Gemini等產品都取得了許多突破。我們也可以看到，中國的DeepSeek和其他大模型也做得非常出色。這就是我們當前的發展現狀。

接下來的兩年里，我們將會看到很多智能體的出現。智能體能夠記憶語言，執行任務并采取行動，你可以驅動它們做事。這將是智能體革命對企業產生巨大的影響。

舉個例子，這些智能體可以應用到每個企業的工作流、每個政府的工作流中，我對此感到非常振奮。

如果這一點能夠做好，那么接下來我們將能看到更多深度推理的應用和更先進算法的提升。

需要注意的是，我們現在還不知道“紅線”在哪里。我認為一個重要的點是，中國、美國以及其他國家需要達成一致。

也就是說，在某些關鍵問題上，我們必須進行對話。舉個例子，如果有一天，AI開始自主決定獲取武器，或者決定自我復制，或者它不經由我們同意開始學習所有事物，當這些事情發生時，我們的目標不是立即停止它的發展，而是要通過對話來探討如何防止和控制這個過程，從而避免它失控。

對于未來的五年，我感到非常振奮。我們將看到社會發生深刻的變化，且大部分變化會讓社會變得更好。如果能應對剛才講到的關切，那么將會發展得很好。