對話微軟 & OpenAI CEO：人工智能對抗賽的黎明時分
大數據文摘出品
在過去很長時間，微軟一直是家喻戶曉的品牌，三十多年來，它利用Windows、Word、Excel、PowerPoint等生產力工具，徹底改變了我們的工作方式，這些工具讓這家公司成為“大科技”的代名詞。
現在微軟通過對OpenAI的巨額投資狠狠的抓住了人工智能革命的前沿。微軟現在是OpenAI的主要商業合作伙伴，通過提供高性能的服務器和巨額資金，換取了使用ChatGPT的權利，從而為公司內一些原本陷入停滯的產品，特別是搜索引擎（bing），注入了新活力。當然，這個過程也有其不盡如人意的地方。
圖片
YouTube地址：https://www.youtube.com/watch?v=6ydFDwv-n8w
近日，彭博社在《The Circuit》欄目中，與微軟CEO 薩蒂亞（Satya Nadella）和OpenAI CEO薩姆?奧特曼（Sam Altman）進行了同時對話。對話內容涉及AI如何正在改變搜索引擎的競爭格局、這波科技浪潮的重要性為什么不亞于網絡瀏覽器或者iPhone等等。這次對話的內容，彭博社定義為：“Dawn of the AI Wars（人工智能對抗賽的的黎明時分）”。
當談到哪些公司可能“威脅”到OpenAI現有的競爭優勢時候，薩姆?奧特曼表示：更擔心的是那些還未進入視線的創新團隊。換言之，目之所及，一個“能打”的都沒有。另外，奧特曼表示，在AI浪潮中，初創企業有巨大的成長潛力，畢竟OpenAI幾年前也是小企業，他也沒想到有一天能和谷歌、DeepMind等巨頭“扳手腕”。
此外還談到了OpenAI的未來，以及會不會把企業賣給微軟等等。下文是精彩內容，文摘菌做了不改變原意的編輯。
對話微軟CEO 薩蒂亞·納德拉
圖片
從自動駕駛到元宇宙，再到人工智能，科技公司總是不缺話題。微軟對OpenAI進行了大量投資，期望將AI融入到業務中，能否成功其實是個未知數，而微軟的CEO薩蒂亞·納德拉則認為必定能夠成功。
從自動駕駛到元宇宙，再到人工智能，科技公司總是不缺話題。微軟對OpenAI進行了大量投資，期望將AI融入到業務中，能否成功其實是個未知數，而微軟的CEO薩蒂亞·納德拉則認為必定能夠成功。
主持人：微軟在AI領域的研究歷史悠久，聊天機器人也并不是什么新概念，但現在突然成了大家關注的焦點。你為何認為現在才是AI真正“出彩”的時刻？
薩蒂亞：其實，AI不是新鮮事物，它早已成為主流技術的一部分。從搜索引擎到新聞推薦，再到YouTube、電子商務和TikTok等，都是AI技術的應用場景。但值得注意的是，現有的AI像黑盒子，“偷摸”的自動化運行，左右著我們的注意力和選擇。與此不同，未來最值得期待的轉變可能是AI從一個全自動的“駕駛員”轉變為一個“副駕駛”，能更多地與人類互動和協作。
主持人：你覺得這項技術將對我們工作的方式產生何種程度的影響？
薩蒂亞：我覺得商務聊天將是最大的變革點。目前，每個公司最重要的數據資產通常都存在于不同的生產力軟件中，而這些數據通常是相互孤立的。但現在，我可以直接詢問：“我即將會見這位客戶，能告訴我上一次見他是什么時候嗎？還能把與這個客戶有關的所有文件總結一下，以便我為會面做好充分準備嗎？”
主持人：怎么確保這不會成為一個讓人討厭的“Clippy 2.0”，而是一個實用而愉悅的工具？
薩蒂亞：只要我管理，我有信心它們會“長成”我預期的樣子。事實上，從過去的“Clippy”到現在的多種智能助手，我們確實有許多教訓要吸取。這些例子教會我們，這些都不過是工具，關鍵在于我們如何合理地使用它們。比如，當使用AI工具或其他技術產品時，我們應該以一種審慎和負責任的態度來對待它們，就像在處理人們發送給我們的文檔草稿一樣，不直接接受，需要仔細審查。這正是我們在使用這些新工具時也應該持有的態度和方法。
主持人：在1995年，比爾·蓋茨預見了互聯網將改變一切的力量，并認為這對微軟的每個業務都至關重要。那么AI也有同樣的影響力嗎？
薩蒂亞：絕對有。我覺得ChatGPT的出現有點像1993年第一個網頁瀏覽器Mosaic出現時的感覺。對我來說，這確實像是比爾·蓋茨在1995年說過的那樣。
主持人： 所以，AI與互聯網一樣具有變革性的力量？
薩蒂亞：我認為其潛力確實巨大，盡管科技行業總愛過度吹噓事物。但我個人的動力在于，我想通過這項技術讓更多人受益。
圖片
主持人：你認為微軟能在搜索市場上從谷歌手中奪取多少份額？
薩蒂亞：我們在搜索領域還是小角色，但我非常期待能有所突破。
主持人：現在谷歌也在將AI應用到他們的Google Docs、Sheets和Gmail等產品中。是否意味著你和桑達爾·皮查伊（Sundar Pichai）會在AI領域展開激烈競爭？
薩蒂亞：競爭激發了創新，這對于消費者和整個行業都是有益的。至于Google，是一個非常具有創新能力的公司，我們對他們抱有很高的尊重，我預計在未來的多個方面，我們都將與他們展開激烈的競爭。
主持人：近期有報道稱，微軟解散了一個致力于研究AI倫理和責任的專門團隊。另外，人類科技中心也警告說，目前人工智能的發展競賽有些魯莽。您怎么看這個問題？
薩蒂亞：AI在微軟中已經不是一個可有可無的附屬項目了。無論是從設計、安全性，還是從倫理角度來看，都跟產品的質量和性能同樣重要。所以，我不能把關注AI安全的團隊當作是次要，應該把它納入主流的組織架構之中。并且，我認為對于創新速度、它對社會是否真正有益的各種討論和審查都是非常重要的。我非常歡迎這種公開的辯論。我們應該更多地了解AI在我們生活中的具體應用，然后研究如何能更安全、更有針對性地利用這些技術。
主持人：我常想，AI能無限陪伴我的孩子，但也可能進行“不健康”的互動。作為家長，你有沒有擔心過這一點？
薩蒂亞：我認為讓AI從“全自動”轉向“輔助模式”可以讓有更多的主導權，對家長，對孩子亦是如此。這一代的AI和聊天機器人不僅能吸引我們，還可能賦予我們更多的選擇權和學習機會。
主持人：我想探討一下AI對就業的影響。微軟制造的軟件無疑是為了助人完成工作，但加入AI技術是否會導致某些職位被淘汰呢？Sam Altman認為，AI有望創造一個理想世界，在這里可以產生大量財富，足以給每個人提供一筆不小的收入，但這也意味著一些工作崗位將被消除。你對這個觀點有何看法？
薩蒂亞：實際上，從經濟學家凱恩斯到Sam Altman，很多人都提出過每周只需工作兩天的想法，我個人也很期待這種變化。但不可否認的是，隨著技術的發展，某些工作崗位將面臨變革，這或許會給工資帶來一定的壓力。然而，由于生產效率的提高，也會出現工資增加的機會。對于這一系列變化，我們需要有全面而清晰的認識，尤其是要警覺可能出現的就業流失問題。
對話OpenAI CEO 薩姆?奧特曼
圖片
奧特曼認為，AI將為我們帶來一種理想化的未來，但也沒忘記提醒我們要注意潛在的危險，甚至在關于滅絕風險的聲明上簽了名。不過，許多人還是難以相信AI能帶來這么多好處。由于擔心AI會替代人類工作，好萊塢的作家和演員甚至發起了長時間的罷工行動。而像ChatGPT這樣的系統，其實還不能寫出高質量的故事。
奧特曼認為，AI將為我們帶來一種理想化的未來，但也沒忘記提醒我們要注意潛在的危險，甚至在關于滅絕風險的聲明上簽了名。不過，許多人還是難以相信AI能帶來這么多好處。由于擔心AI會替代人類工作，好萊塢的作家和演員甚至發起了長時間的罷工行動。而像ChatGPT這樣的系統，其實還不能寫出高質量的故事。
主持人：你最近一直在全國各地“跑”，那么你如何平衡生活和工作。
奧特曼：在整個旅程中，我幾乎沒有時間進行冥想或瑜伽，也很少鍛煉，這點讓我有點難受。但我睡眠還算正常。
主持人：這次“周游世界”的目的是什么？收集信息or宣傳？
奧特曼：其實更多的是聽取不同聲音。但實際上，我們發現自己花了更多時間去解釋和講解，特別是和多位世界領導人會面討論全球AI監管時。不過，傾聽的過程非常有價值，我甚至手寫了大約一百頁的筆記。
主持人：你通常怎么處理這些筆記呢？
奧特曼：我把這些筆記總結成50條重點，并讓“它”指導我們的下一步工作。其實，當你面對面或者在更輕松的場合與人交流時，他們通常會給出非常坦率、直接的反饋，這對我們來說是非常寶貴的。
主持人：你似乎沒有前往中國或俄羅斯？
奧特曼：對，我在中國通過遠程方式進行了一次演講，沒有和俄羅斯進行交流。
主持人：ChatGPT對你的日常行為有何影響？
奧特曼：在日常生活中，我發現ChatGPT在很多小地方都很有幫助。例如，在我的旅行中，它的翻譯功能給了我很大幫助。我還會用它來幫助我寫東西，這讓我寫作變得更加流暢，思維更加清晰。
主持人：你覺得人們會與AI建立情感連接嗎？你怎么看待這一點？
奧特曼：我發現很多人跟語言模型，比如聊天機器人，建立了情感聯系。這讓我有些復雜的感覺。對我來說，這樣的互動是很不尋常的，而且我也不希望自己產生這種依賴。雖然我不想告訴人們應該如何使用這項技術，但我認為在與機器人建立情感聯系時，大家需要謹慎行事。
主持人：你經常參與一些令人印象深刻的討論，最近有什么特別令你印象深刻的時刻嗎？
奧特曼：離開舊金山后，我發現全球各地人們對一些核心問題有著相似的擔憂，當然也有差異。普遍來說，人們都覺得變化速度快，這會對經濟產生復雜的影響。這種變化自然會讓人們感到不安。
主持人：現在有很多關于AI的恐懼和焦慮，有人甚至把它與核武器或生物武器相提并論。你覺得這種比較合適嗎？
奧特曼：更多人還是對AI充滿激動和期待。任何具有巨大潛力的新技術，如合成生物學、核能和AI，都帶有一定的風險。我們需要妥善管理這些風險以享受其潛在的好處。我預見AI的正面影響會非常巨大，但也需要有效的管理風險。
主持人：最近有關于“緊急停機鍵（kill switch）”或“大紅按鈕（big red button.）”的熱議。
奧特曼：我希望大家能明白，這只是個玩笑。如果真的需要，我們當然有辦法關閉系統。
主持人：現在AI領域的競爭越來越激烈。OpenAI現在走在前列，有沒有其他公司或者團隊讓你們警覺？
奧特曼：這個環境不僅競爭激烈，而且可能是現在最具競爭性的科技領域。我們在關注所有可能的競爭者。但因為我的創業背景，我更擔心的是那些還未進入我們視線的創新團隊。
主持人：你和薩蒂亞薩蒂亞·納德拉關系如何？有沒有收購的可能？
奧特曼：我非常確定的說，公司不會被出售。我們與微軟有非常好的合作關系，這是少數幾個大科技公司之間成功合作的例子。我們非常珍惜這種合作。
主持人：你私下和埃隆·馬斯克有溝通嗎？如果有的話，你們都聊些啥？
奧特曼：是的，我們聊過各種各樣的話題，有的很重要，有的則相當瑣碎。
主持人：你有沒有想過為什么他對AI或OpenAI有點不滿？
奧特曼：你去問他，讓他自己回答。
主持人：在我們的日常生活中，有沒有某個領域你認為AI不應涉足？
奧特曼：我母親常說：“永遠不要說永遠，也不要說總是?！边@是個很好的建議。如果我現在作出預測，未來可能會證明我錯了。我認為AI將會在很多方面影響我們的生活，但也有可能某些方面意外地保持不變。這樣的預測很難做，也很容易出錯。
主持人：你覺得現在的年輕一代需要學習哪些技能或知識？
奧特曼：他們應該注重培養適應力、韌性、快速學習和創造性，并且應熟悉現代工具。主持人：那么，孩子們是否還應該學習編程？我聽說有觀點認為，編程已經不那么必要了。
奧特曼：我個人非常喜歡編程，所以我認為學習編程是有價值的。學習編程不僅是學習一種技能，而是一種培養思考能力的途徑。即使編程的形式將會發生變化，它仍然是未來的一個重要技能。
主持人：當我們的很多工作都被機器取代，人們將如何度過他們的時間？
奧特曼：我認為人們總會找到事情去做的。就算現代社會的工作在過去看起來不像“工作”，我們總是能找到新的目標和新的方式來實現自己和對社會有用。這種趨勢不會停止。
主持人：你內心深處認為，科技將會使世界變得更加公平嗎？
奧特曼：我確實這樣認為?？萍加锌赡苁谴龠M平等的重要因素，當然，這需要社會和制度的配合。從宏觀角度來看，我覺得未來十年，獲取智力（intelligence）和能源的成本將大幅下降，這將造福所有人，并提高社會的基礎生活水平。
主持人：你下一步打算如何發展OpenAI？
奧特曼：我們計劃不斷優化和擴大我們的AI模型，同時也更廣泛、更低成本地將其推向市場。
主持人：對于整個AI領域，你有什么看法？
奧特曼：這是一個多人參與的領域，我們不能單獨決定其發展方向。但我們為自己能對這個領域有所貢獻而感到自豪。當然，我們也在探索新的可能。
主持人：在這個環境中，初創公司還有生存的空間嗎？
奧特曼：絕對有，畢竟不久前我們也是一個初創公司。每個公司都是從初創開始的，當時我也有過自我質疑，是否有可能與Google和DeepMind這樣的巨頭競爭。
主持人：你簽署了一份22字的聲明，警告關于AI的風險。它是這樣寫的："減輕人工智能帶來的滅絕風險應成為全球優先級，與其他社會規模的風險如流行病和核戰爭并列。"能解釋一下從聊天機器人到可能導致人類滅絕，這之間的邏輯嗎？
奧特曼：我們經常與有危險潛力的強大技術打交道。過去幾十年里，我們已經在多個領域建立了有效的安全措施，盡管并不完美。對我來說，這項技術最重要的一點是它正處在一個快速增長的指數曲線上，而人們通常很難直觀地理解這種增長速度。所以，即使GPT-4沒有什么風險，但我們如何確保GPT-9也是如此呢？即使有一小概率它可能會出問題，我們也必須非常謹慎。
主持人：如果有那么一點可能出現風險，那我們為什么還要繼續呢？直接停止不是更好嗎？
奧特曼：有多個原因，這項技術有巨大的潛力，不僅能提升全球教育質量和醫療水平，還有助于消除貧困。但這些優勢也帶有風險，需要謹慎管理。鑒于其經濟和社會價值，現在沒有公司能停止它的發展。
主持人：你現在因為AI掌握巨大的權力。我們為什么應該相信你？
奧特曼：實際上，你們不應該單純地信任我。你認識我很長時間了，你也知道，我更喜歡在辦公室工作而不是公開發表意見。但在這個特定時期，人們有權提出盡量多的問題，我也會盡我所能回應。更進一步說，這里沒有哪個個體值得被完全信任。即使是我，也可以被董事會解雇。我覺得，隨著時間的推移，董事會應該逐步向全人類開放，讓每個人都有發言權。有多種方式可以做到這一點。我們覺得這項技術及其帶來的利益、獲取方式和管理，都應該是全人類的共同財富。如果這項技術真的如我們所期望的那樣有效，那么它是非常強大的，絕不應該只由一個公司或一個人來掌控。
