前OpenAI CTO另立門戶，2/3 ChatGPT骨干被挖！北大校友Lilian Weng加盟
離職近5個月，OpenAI前CTO Mira Murati終于官宣了！
新公司名叫「思考機器實驗室」（Thinking Machines Lab），將人類價值觀編碼到AI模型中，讓其更安全、更可靠。
Mira任CEO，OpenAI前后訓練研究副總Barret Zoph任CTO，OpenAI聯創John Schulman任首席科學家。
圖片
思考機器實驗室現共有29名員工，其中2/3均來自OpenAI，集結了最豪華的陣容。
其中，有我們熟知的，OpenAI前安全副總裁、北大校友翁荔（Lilian Weng）、前OpenAI多模態后訓練負責人Alexander Kirillov等等。
圖片
Karpathy對前CTO成立的新公司表示了祝賀，并稱贊道「非常強大的團隊，其中大部分成員直接參與并創造了ChatGPT這個奇跡」。
圖片
對此，賈揚清表示，「這是我看到豪華的陣容」。
圖片
OpenAI前員工，又多一家新去處
Thinking Machines Lab如何保證，自己的方法有別于競爭對手？
重點就在于，研究是由研究團隊和產品團隊共同設計。該公司表示，將通過共享代碼、數據集和模型規范為AI對齊研究做出貢獻。
「雖然當前的系統在編程和數學方面表現出色，但我們正在構建能夠適應人類全部專業知識并實現更廣泛應用的人工智能。」
也就是說，Murati創業公司的重點，就是將人類價值觀編碼到AI模型中，使其更安全、更可靠。
圖片
截至一月份，Murati已經從競爭對手那里為她的公司招募了大約10名員工，其中包括來自Character AI和Google DeepMind以及她的老東家OpenAI的人員。
消息人士稱，還會有更多OpenAI員工加入Murati的公司。此前，該公司一直在從投資者那里籌措風投資金。
與Thinking Machines Lab類似， Anthropic和Safe Superintelligence也都吸引了大批前 OpenAI研究人員，并籌集了數十億美元的資金。
Murati在OpenAI工作了六年半，擔任CTO，參與了ChatGPT和其他AI研究項目的開發。
2023年11月，在OpenAI董事會突然解雇奧特曼之后，她曾短暫擔任臨時CEO，這一舉動在公司內部引發了動蕩。在奧特曼重新擔任CEO后，Murati繼續擔任CTO職務。
Murati是少數幾位離開OpenAI后創辦自己公司的前OpenAI高管之一。
前OpenAI首席科學家兼聯合創始人Ilya Sutskever于2024年5月離開公司，并在離職后不久創辦了Safe Superintelligence Inc.。
Dario和Daniela Amodei也曾在OpenAI工作，于2021年共同創辦了 Anthropic。
「思考機器」實驗室
Thinking Machines Lab是一個AI研究和產品公司。目標是讓每個人都能獲得知識和工具，使AI能夠滿足他們獨特的需要和目標。
團隊認為盡管AI的能力有了顯著的進步，但在關鍵領域仍存在差距。科學界對前沿AI系統的理解落后于其快速發展的能力。
關于這些系統是如何訓練的知識主要集中在頂級研究實驗室中，這既限制了公眾對AI的討論，也限制了人們有效使用AI的能力。盡管這些系統具有巨大的潛力，但人們仍然難以將它們定制以滿足自己的特定需求和價值觀。
Thinking Machines Lab的建立正是為了彌合這些差距，以使AI系統更廣泛地被理解、定制和普遍具備能力。
Thinking Machines Lab的團隊包括科學家、工程師，以及諸如ChatGPT和Character.ai等最廣泛使用的AI產品創建者，還包括Mistral等開源模型，以及PyTorch、OpenAI Gym、Fairseq和Segment Anything等流行的開源項目的開發者。
共享讓科學更美好
· 科學進步是集體努力的成果
通過與更廣泛的研究者和創造者社區合作，將更有效地推進人類對AI的理解。團隊計劃經常發布技術博客文章、論文和代碼，來分享他們的工作。這樣不僅能造福公眾，還能改善自己的研究文化。
為每個人服務的AI
· 人機協作至關重要
團隊不僅僅專注于打造完全自主的AI系統，更致力于構建能與人協作的多模態系統。
· 更靈活、適應性更強、更個性化的AI系統
在各個領域，AI都有著為人類提供幫助的巨大潛力。雖然當前系統在編程和數學方面表現出色，但團隊正在構建的，是能適應人類各種專業領域并支持更廣泛應用的AI。
夯實基礎
· 模型智能是基石
除了人機協作和定制化外，模型的智能也是關鍵。為此，團隊將會構建在科學和編程等領域處于前沿水平的模型。最終，最先進的模型將釋放最具變革性的應用和效益，如實現新的科學發現和工程突破。
· 將基礎設施質量作為首要任務
研究生產力至關重要，它在很大程度上取決于基礎設施的可靠性、效率和易用性。團隊的目標是正確構建長期可用的系統，以最大化生產力和安全性，而不是采取捷徑。
· 先進的多模態能力
團隊認為，多模態對實現更自然高效的交流、保留更多信息、更好地捕捉意圖以及支持與現實環境更深入的整合至關重要。
實踐出真知
· 研究和產品協同設計
產品能通過部署實現迭代學習，而優秀的產品和研究又能相互促進。產品讓團隊能夠腳踏實地，去解決最有影響力的問題。
· 實證和迭代的AI安全方法
最有效的安全措施來自主動研究和謹慎的實際測試的結合。團隊計劃通過以下方式為AI安全做出貢獻：
- 保持高安全標準——防止我們發布的模型被濫用，同時最大化用戶的自由度；
- 與業界分享構建安全AI系統的最佳實踐和方法；
- 通過分享代碼、數據集和模型規范來加速外部對對齊問題的研究。
團隊相信，為當前系統開發的方法，如有效的紅隊測試和部署后監控，將為未來更強大的系統提供寶貴的見解。
· 衡量真正重要的事物
團隊將專注于理解系統如何在現實世界中創造真正的價值。最重要的突破往往來自重新思考自己的目標，而不僅僅是優化現有指標。
20名OpenAI員工加盟
坊間早有傳聞，Mira Murati初創公司將會把大部分OpenAI員工收入麾下，如今約2/3的人均加入。
接下來，讓我們一起盤點下都有哪些OpenAI大佬。
Mira Murati（前OpenAI CTO）
圖片
Mira Murati于2018年加入OpenAI，并在2022年晉升為首席技術官。她在開發開創性AI模型方面，發揮了關鍵作用。其中就包括GPT-3，以及ChatGPT、DALL·E等。
Barret Zoph（前OpenAI后訓練團隊研究副總）
圖片
Barret Zoph主要致力于對齊、工具使用、評估、ChatGPT、搜索、多模態等等。他曾于2022年加入OpenAI，任職兩年。此前，曾在谷歌擔任6年研究科學家。
John Schulman（OpenAI聯合創始人）
圖片
Schulman在研究生學業完成后，以創始人身份正式加入OpenAI，并在OpenAI供職9年。值得一提的是，這是Schulman除實習之外，唯一工作的公司。他曾負責領導了對齊團隊，以及「后訓練」團隊——對部署在ChatGPT和OpenAI API中的模型進行微調。
Lilian Weng（前OpenAI安全研究副總裁）
圖片
Lilian Weng曾是OpenAI安全系統負責人，主要從事機器學習、深度學習等研究 。Weng本科畢業于北京大學信息系統與計算機科學專業，曾前往香港大學進行短期交流，之后在印第安納大學布魯明頓（Indiana University Bloomington）分校獲得博士學位。
Alexander Kirillov（前OpenAI多模態后訓練負責人）
圖片
在OpenAI，Alexander Kirillov帶領團隊致力于多模態模型的研發工作，推動模型不僅能夠處理文本，還能同時理解和生成圖像、音頻等多種數據。此前，他在Meta參與并主導爆火的「Segment Anything」項目。
Mario Saltarelli （前OpenAI IT和安全部門負責人）
圖片
Mario Saltarelli 2019年加盟OpenAI，任職IT主管5年多。
Andrew Tulloch
圖片
ML系統研究和工程，前在OpenAI和Meta任職。
Brydon Eastman
圖片
曾在OpenAI從事后訓練研究，專門研究人類和合成數據，模型對齊和RL。
Christian Gibson
圖片
曾任OpenAI基礎設施工程師，專注于訓練前沿模型所使用的超級計算機。
Ian O'Connell
圖片
基礎設施工程師，曾就職于OpenAI、Netflix和Stripe。
Jacob Menick
圖片
機器學習研究員，曾在OpenAI主導GPT-4o-mini項目，此前在DeepMind參與開發ChatGPT和深度生成模型。
Jonathan Lachman
圖片
運營主管，曾任OpenAI特別項目負責人和白宮國家安全預算主管。
Joshua Gross
圖片
在OpenAI負責產品和研究基礎設施建設，參與打造ChatGPT的學習系統和GPU集群；此前在Meta負責產品基礎設施。
Kyle Luther
圖片
機器學習研究員，曾就職于OpenAI。
Luke Metz
圖片
研究科學家和工程師，曾就職于OpenAI和Google Brain，ChatGPT共同創建者。
Nikki Sommer
圖片
前OpenAI人力資源業務合作副總裁，曾任Twitter人力資源業務合作總監。
Rowan Zellers
圖片
曾在OpenAI從事實時多模態后訓練工作。
Sam Schoenholz
圖片
曾在OpenAI領導可靠擴展團隊和GPT-4o優化工作。此前在Google Brain從事統計物理學與機器學習交叉領域的研究。
Yinghai Lu
圖片
機器學習系統工程師，曾在OpenAI和Meta主導多個推理系統項目。
Pia Santos
運營高管，曾就職于OpenAI。
Randall Lin
曾在OpenAI管理和維護ChatGPT的，并在X擔任「推特算法」的技術聯合負責人。
除此以外，還有多位來自谷歌DeepMind、Mistral AI、Meta、Character AI等科技公司的大佬紛紛加盟。
參考資料：
