出品 | 51CTO技術棧(微信號:blog51cto)
“臨近畢業季,英偉達創始人兼CEO黃仁勛周五在加州理工學院第130屆畢業典禮上發表了鼓舞人心的演講。脫下標志性的黑色皮衣,黃仁勛換上黑黃相間的學位服,向現場的近600名畢業生們進行了長達半小時的分享,鼓勵畢業生們以奉獻精神和堅韌不拔的精神追求自己的事業,并將挫折視為新的機遇。”
女士們,先生們,羅森鮑姆(Thomas F. Rosenbaum)校長,尊敬的老師們,尊敬的來賓們,驕傲的父母們,最重要的是,2024屆的加州理工學院畢業生們!
這對你們來說真是開心的一天。你們得表現得更興奮些。你們即將從加州理工學院畢業了。這是偉大的理查德·費曼(Richard fineman)、萊納斯·鮑林(Linus Pauling)還有一位非常在我們的行業中對我影響很大的卡弗·米德(Carver Mead)的學校。
今天是無比自豪和快樂的一天,這是你們所有人的夢想成真。不只是你們,因為你們的父母和家人為了見證你們達到這個里程碑做出了無數的犧牲。所以,讓我們抓住這一刻,祝賀他們,感謝他們,讓他們知道你愛他們。
你不想忘記這一點,因為你不知道你要在家里住多久。你今天要非常感激。作為一位驕傲的家長,我真的很喜歡我的孩子們沒有搬出去。每天見到他們真好,但現在他們搬出去了,這讓我很難過。希望你們能多陪陪父母。
你在這里的旅程證明了你的品格、決心,愿意為夢想做出犧牲。你應該感到自豪。做出犧牲、忍受痛苦和磨難的能力,這些生活品質是必需的。
你和我有一些共同點。首先,英偉達的兩位首席科學家都來自加州理工學院。我今天演講的原因之一是我正在招聘。所以我想告訴你們,英偉達是一家非常偉大的公司,我是一個非常好的老板,深受大家喜愛。來英偉達工作吧!
你和我都熱愛科學和工程,雖然我們相差約40年,但我們都處于我們事業的巔峰期。對于所有關注英偉達和我的人,你們能明白我的意思。只是對于你們而言,你們都有很多很多巔峰要去,我只希望今天不是我的巔峰,不是峰頂。我正在一如既往地努力工作,以確保我前面還有更多的巔峰。
1.行業終于意識到加速計算的驚人有效性
去年,我有幸在臺灣大學的畢業典禮上發表演講。我分享了幾個關于英偉達發展歷程的故事,以及我們從中學到的可能對畢業生很有價值的經驗。
我得承認我不喜歡提建議,尤其是給別人的孩子。我今天的建議將會在很大程度上隱藏在我的一些故事和一些我很享受的生活經歷。
我相信我是當今世界上任職時間最長的科技CEO。在31年的工作中,我沒有破產,沒有厭倦,沒被炒魷魚。
因此,我很榮幸享受了很多人生經歷,從創建英偉達至今,所以我談到了創建CUDA的漫長之路。CUDA是我們花了20多年才發明出來的編程模型,它在當今的計算領域掀起了一場革命。
我談到了一個公開的、被取消的世嘉游戲機項目,以及知識誠實。我知道理查德·費曼對這個問題了解得很深,也聊了很多。知識誠實和謙遜拯救了我們的公司。戰略性撤退是我們最好的策略之一。所有這些都是我在畢業典禮上說過的違反直覺的教訓。
我鼓勵畢業生們參與我們這個時代最重要的技術——人工智能(AI)。
我稍后會多講一點。你們都知道AI,很難不被它所吸引,不被它所包圍,不被關于它的大量討論所包圍。
當然,我希望你們所有人使用它,擺弄它,得到了令人驚訝的結果,有些是神奇的,有些是令人失望的,有些是令人驚訝的。
但你必須享受它,你必須參與其中,因為它發展得如此之快。這是我所知道的唯一一個同時在多個有利方向發展的技術。
技術變化得非常非常快。我建議臺灣大學的學生跑起來,不要走,參與AI革命。一年后,它發生了不可思議的變化。
今天我想做的是從我的角度來分享對你們即將畢業的一些重要事情的觀點。
這些是正在發生的不尋常的事情。你們應該有一種直覺,因為這對你很重要,對整個行業也很重要,希望你們好好利用眼前的機會。
計算機行業正在從基礎設施開始轉型,確切說從螺柱開始,一切都在發生變化,穿過每一層面,很快,每個行業都將發生變革。
原因很明顯,如今計算機是最重要的知識工具,是每個科學領域每個行業的基礎。如果我們深刻地改變計算機,它當然會影響到每一個行業。我會稍微談到這一點。當你進入這個行業,了解正在發生的事情是很重要的。
現代計算機可以追溯到IBM System 360,這是我學習的架構手冊。
這是一本你不需要學習的架構手冊,已經有更好的文檔、描述和架構提出了。但System 360在當時是非常重要的。它的基本思想、架構和原則至今仍主導著計算機行業。它是在我出生一年后推出的。
在80年代,我是第一代學會使用的VLSI工程師之一,從卡弗·米德和琳·康維(Lynn Conway)的里程碑式教科書中學會設計芯片。我不確定它是否還在教授,這里教的應該是VLSI系統。
卡弗·米德在加州理工學院編寫的教科書,徹底改變了集成電路設計。它使我們這一代人能夠設計超級巨型芯片,最終設計出中央處理器(CPU)。CPU導致了計算的指數級增長,摩爾定律推動了技術革命。
我們這一代人參與的工業革命見證了世界上前所未有的大規模生產,看不見的、易復制的東西的大規模生產,軟件的大規模生產。它催生了一個價值3萬億美元的產業。
當我坐在你們這個位置上時,IT行業還很小,賣軟件賺錢的概念只是幻想。今天,軟件是我們行業生產的最重要的技術和產品創造之一。
然而,登納德縮放、晶體管縮放和指令集并行性的限制降低了CPU性能。CPU性能放緩正發生在計算需求與計算機之間的差距呈指數級增長的時候。如果不解決,計算的能耗和成本,膨脹最終會扼殺所有行業。我們可以清楚看到計算膨脹的跡象。
經過二十年的發展,英偉達的CUDA、英偉達的加速計算為我們指明前路。這就是我來這里的原因。行業終于意識到加速計算的驚人有效性,就在我們目睹幾十年后計算膨脹之時。
通過將耗時的算法卸載到專門用于并行處理的GPU上,我們通常會實現10倍、100倍甚至是1000倍的速度提升,從而節省資金、成本和能源。
我們加速了計算機圖形、光線追蹤、基因測序、科學計算、天文學、量子電路模擬、SQL數據處理,甚至Pandas數據
我們提供了一條通往可持續計算的道路,隨著計算需求的持續增長,成本將繼續下降。加速計算帶來100倍、1000倍的時間、成本或能源節省,肯定會在其他地方引起新的發展。
2.十多年前的一家小公司,為何要為AI投入數十億美元?
直到深度學習進入我們的意識,我們才知道它是什么。
一個全新的計算機世界出現了。杰夫·辛頓(Geoffrey Hinton),亞歷克斯·克羅舍夫斯基(Alex Krizhevsky)、伊爾亞·蘇茨克維(Ilya Sutskever)使用英偉達CUDA GPU訓練AlexNet,并贏得了2012年ImageNet挑戰賽,震驚了計算機視覺界。
這是一個重要時刻,深度學習的大爆炸,一個標志著AI革命開始的關鍵時刻。
我們在AlexNet改變公司后做出的決定是值得注意的。我們看到了深度學習的潛力,并且相信,只是通過原則思考相信,通過我們自己對深度學習可擴展性的分析相信,我們相信這種方法可以學習到其他有價值的函數。也許深度學習是一種通用函數學習器。
有許多問題很難或不可能用基本的第一原理來表達,所以當我們看到這個,我們認為這是一項我們必須關注的技術,因為它可能只受模型和數據規模的限制。
當時也存在挑戰。這是2012年剛過不久,如果不構建這些龐大的GPU集群,我們如何探索深度學習的極限?當時我們還是一家小公司,構建龐大的GPU集群可能要花費數億美元,但如果我們不這樣做,就不能保證擴大規模后會有效。
然而,沒有人知道深度學習可以擴展到什么程度,如果我們不去構建它,我們永遠不會知道。這是其中之一,如果你構建它,它會來嗎?我們的邏輯是,如果我們不構建,它們就來不了。
我們根據第一原則相信和分析致力于此,我們相信這是非常有效的,當公司相信某件事的時候,我們應采取行動。因此我們深入研究深度學習,并在接下來的十年里系統地重新發明了一切,重塑了每個計算層,從GPU本身開始。
現代GPU的發明與過去我們最初發明的GPU截然不同,我們繼續發明了互連、系統、網絡,當然還有軟件。我們在未知領域投入了數十億美元,十年來,成千上萬的工程師研究深度學習,在不知道技術能走多遠的情況下前進。我們設計并制造了超級計算機,以探索深度學習和AI的學習極限。
2016年,我們發布了DGX-1,我們的第一臺AI超級計算機。我把第一臺交給了舊金山的一家名不見經傳的初創公司,叫作OpenAI。我的一群朋友正在研究AI。
2022年,AlexNet問世十年后,計算能力提高了一百萬倍。想象一下如果你的筆記本電腦是現在的一百萬倍,會是什么樣子?
一百萬倍之后,OpenAI推出了ChatGPT,AI成為了主流。在這十年中,英偉達從一家顯卡公司轉型,你們中的許多人可能第一次知道我們是構建GPU,到現在一家構建大型數據中心級超級計算機的AI公司。
我們徹底改變了公司,我們徹底改變了計算,今天的計算方式已經發生了根本性的變化。現在的計算機堆棧使用GPU來處理在超級計算機上訓練的大語言模型,而不是處理程序員編寫的CPU指令。
我們現在正在創建能夠完成十年前人類無法想象的事情的軟件。
計算機現在是意圖驅動的,而不是指令驅動的。告訴計算機你想要什么,它會算出來的,它會找到方法的。像人類一樣,AI應用程序將理解任務、原因、規劃和協調一個大語言模型團隊來執行任務。
將來的應用程序所做的和執行的都會與我們做事的方式相似,組建專家團隊,使用工具、推理、計劃和執行我們的任務。
軟件和軟件的功能已經完全改變了。甚至我們的行業也在改變和轉型中創造了另一個行業,一個前所未見的行業。
一個行業正在我們眼前形成,AI的輸入和輸出是token。對在座的所有工程師來說,你們都明白我的意思,這些是嵌入智能的浮點數。
公司現在正在建立一個前所未有的新型數據中心,專門生成智能token,本質上是AI工廠。就像過去工業革命中尼古拉·特斯拉(Nicola Tesla)發明的交流發電機,現在我們有了AI token生成器,它們將是新工業革命的工廠。
這里有生產能源、電力的大型工業。我們有一個龐大的產業生產軟件。在不久的將來,我們將擁有生產、制造智能token的行業——AI生成器。一種新的計算模式和一個新的產業已經出現了。這都是因為我們從第一原則出發,形成了我們對未來的相信,并付諸行動。
3.曾被AMD、英特爾、高通踢出局,轉向尋找尚未開發的“0億美元市場”
AI的下一波浪潮是機器人技術。除了語言模型外,AI還有物理世界模型。我們與數百家公司合作,制造機器人、自動駕駛車輛、搬運機械臂、人形機器人,甚至整個巨大的機器人倉庫。
但與我們的AI工廠戰略和我們在那里的經驗不同,AI工廠戰略是通過推理和深思熟慮的行動形成的,而我們的機器人之旅源自一系列挫折。
你們都知道英偉達發明了GPU,這是在我們發明AI工廠之前。
我們對計算機產業的第一個偉大貢獻是通過可編程著色器重新發明了計算機圖形。我們希望將GPU集成到每臺計算機中,因此我們開始把GPU和主板結合起來。
當時我們推出了一款很棒的適用于AMD CPU的集成顯卡芯片,我們的芯片業務立刻獲得了巨大的成功,幾乎一夜之間就賺了十億美元。
AMD想要控制PC(個人電腦)中的所有技術,而我們想保持獨立,所以他們收購了ATI,不再需要我們。
我們轉向了英特爾。這可能不是個好主意。但我們轉向英特爾并協商了一個連接到英特爾CPU的許可。
蘋果對我們正在開發的產品很感興趣,邀請我們和他們合作開發一款新電腦,這就是第一款MacBook Air。英特爾看到這種情況后不想讓我們再這么做,終止了我們的協議。
我們又轉變方向。這次我們去拿了Arm的許可,制造了一個低功耗SoC,一個移動SoC。世界上第一個SoC本質上是一臺功能齊全的電腦,簡直不可思議。我們的芯片令谷歌很興奮,他們邀請我們開發一種新設備,后來發現就是安卓手機設備。
但高通決定不讓我們這么做。他們不希望我們連接到他們的調制解調器上,而如果不連接到調制解調器上,就很難制造一款移動設備。當時也沒有其他先進的調制解調器公司,所以我們不得不退出移動設備市場。
這種情況幾乎一年發生一次。我們會創造一些東西,它會取得巨大的成功,引起極大轟動,然而一年后,我們被踢出這些市場。
由于沒有更多的市場可供選擇,我們決定建立一個我們確信不會有客戶的地方。因為有一件事你一定能肯定,那就是沒有客戶的地方,也就沒有競爭對手。沒人關注你。
所以我們選擇一個沒有客戶的市場,一個0億美元市場。
機器人就是那樣的市場。我們構建了世界上第一臺機器人計算機,處理一種當時沒人理解的算法,即深度學習。這是十多年前的事了。十年后,我對我們所創造的一切和有機會創造下一波AI浪潮感到無比高興。
更重要的是,我們培養了敏捷性和韌性文化。
一次又一次,我們擺脫了挫折,抓住下一個機會。每一次我們都獲得了技能和增強了性格。我們增強了我們的企業性格。我們公司很難分心,很難氣餒。這些日子我們遇到的任何挫折都不像是機會。
諷刺的是,我們今天制造的機器人計算機甚至不需要圖形,這就是我們的旅程開始的原因。
所以我們今天所處的位置告訴了我們一些事情,也教會了我們一些東西。
正如理查德·費曼所說的那樣,世界可能不公平,給你發爛牌,趕快擺脫它吧。顯然你把很多注意力放在書本上了。趕快擺脫它。來吧。
這很聰明。我讓自己笑了。還有另一個機會——或者創造一個機會。
4.迎難而上,找到自己的GPU!
讓我再告訴你一個故事。
我過去每年夏天都會在我們的一個國際站點工作一個月。當我們的孩子十幾歲時,我們在日本過暑假。在一個周末,我們參觀了京都和銀閣寺。如果你還沒有機會去,你一定要去。它以精致的苔蘚花園而聞名。
那是一個典型的夏日,悶熱潮濕又粘稠。熱氣從地面散發出來,空氣很濃,很靜止,我們和其他游客穿過精心打理的苔蘚花園。
我注意到那位孤獨的園丁,現在記住,苔蘚花園,這是銀閣寺,和這個庭院差不多大,它幾乎收藏了世界上所有種類的苔蘚,而且保存得非常完好。我注意到那位孤獨的園丁蹲在那兒,小心地用一根竹鑷子摘青苔,然后把它放進竹籃里。
只有這一位園丁,籃子看起來是空的。有那么一刻,我還以為他在從一堆假想的死苔蘚中摘選想象的苔蘚。
于是我走到他面前,問他:“你在做什么?”
他用英語說:“我在摘死苔蘚,我在照料我的花園。”
我說:“但你的花園如此大。”
他回答說:“我照料我的花園已經25年了。我有充足的時間。”
那是我人生中最深刻的感悟之一,它真的教會了我一些東西。這位花匠專心于他的手藝,做著他畢生的事業。當你這樣做的時候,你就有充足的時間。
我每天早上都要以同樣的方式開始做事,我每天早上都從最重要的工作開始,我有一個非常明確的優先級列表,我從優先級最高的工作開始。
在我開始工作之前,我的一天就已經成功了。我已經完成了我最重要的工作,并且可以把我的一天奉獻給幫助別人。當人們為打斷我而道歉時,我總是說,我有足夠的時間。我確實是的。
2024屆的畢業生們,我很難想象會有誰比你們更能對未來做好準備。
你們全身心投入,努力工作,在世界上最負盛名的學校之一獲得了世界一流的教育。當你們進入下一個階段,請吸取我的經驗教訓,希望它們能一路幫助你。
我希望你們相信一些東西,一些非傳統的、未被探索過的東西。但要讓它變得明智、合理,并致力于實現它。你們可能會找到自己的GPU,你們可能會找到自己的CUDA,你們可能會找到自己的生成式AI,你們可能會找到自己的英偉達。
我希望你們把挫折看作是新的機會。痛苦和磨難會錘煉你的性格,韌性和敏捷性,它們是終極的超能力。
在我最珍視的能力中,智力不是最重要的。我忍受痛苦和磨難的能力,我長時間工作的能力,我應對挫折的能力和看到即將到來的機會的能力,我認為這些是我的超能力,我希望它們也是你的。
我希望你能找到一門技藝,第一天就決定并不重要,很快做出決定并不重要。但我希望你能找到一門技藝,你想用一生去完善它,磨練技能,讓它成為你一生的事業。
最后,優先考慮你的生活。有很多事要做。但優先安排你的生活,你就會有充足的時間去做重要的事情。
恭喜,2024屆畢業生們,去找到它們!



























