立人設，言行不一，漠視安全！馬庫斯再列「貪婪之罪」指控奧特曼
2023年5月16日，正值人工智能狂熱的高峰期，OpenAI首席執行官奧特曼，站在美國參議院司法小組委員會前，參與人工智能監督會議。
奧特曼在密蘇里州圣路易斯長大，是斯坦福大學的輟學生，他在30歲之前就成為了非常成功的Y Combinator初創孵化器的總裁。
在聽證會前幾個月，ChatGPT剛剛席卷了全世界。
整個2023年夏天，奧特曼都受到了披頭士樂隊一般的待遇，像世界巡演一樣來到華盛頓，會見了世界各地的總理和總統。
美國參議員Kyrsten Sinema滔滔不絕地說，「我從未見過像Sam這樣聰明的人，他性格內向且謙遜，但是非常擅長與國會議員建立關系，并且可以幫助政府人員了解人工智能。」
當時最美好的詞匯都用形容這位年輕CEO：真誠、才華橫溢、富有、充滿人文關懷等等。
他常常說人工智能可以改變全球經濟，這讓世界領導人對他的宏圖大計都興致勃勃。
被耍了？
參議員Richard Blumenthal將奧特曼和Gary Marcus都召集到華盛頓，討論應該如何處理人工智能這把新興科技的「雙刃劍」，議程是人工智能政策和監管。
奧特曼代表AI巨頭，Gary Marcus作為一名科學家和作家到場。
這位Gary Marcus也是老朋友了，AGI真有泡沫破裂的那天他領頭等功。
「最先呼吁GenAI泡沫」
Marcus在聽證會當天也差點被奧特曼的人格魅力折服，雖然有時奧特曼會回避問題，但總的來說，他看起來很真誠。
兩人在會上都強烈支持人工智能監管。但漸漸地，Marcus意識到自己、參議院以及美國人民可能都被「耍」了。
事實上，Marcus一直對OpenAI抱有一些疑慮。
OpenAI新聞宣傳活動經常夸大其詞，甚至具有誤導性，例如他們對機器人玩魔方的花哨演示，結果發現魔方內部裝有特殊傳感器。
多年來，OpenAI這個名字，以及他們非營利組織的定位，都代表了科技創造的一種開放性。然而事實上，隨著時間的推移，它變得越來越不Open。
OpenAI經常暗示AGI即將到來，在Marcus看來，這是毫無根據的炒作，奧特曼卻用不同的話術吹得讓人眼花繚亂。
在參議院，奧特曼給自己立了一個無私熱血的人設。參議員John Kennedy問道，「好吧，你賺了很多錢嗎？」
奧特曼回答說，「并沒有，我得到的錢足以支付醫療保險的費用。我沒有OpenAI的股權。」他解釋說，「我這樣做是因為我熱愛AI」參議員們聽了都很受用。
然而，Marcus寫道，奧特曼并沒有說出全部真相。他的確沒有持有OpenAI的任何股票，但他持有Y Combinator的股票，而Y Combinator也持有OpenAI的股票。
這意味著奧特曼間接擁有OpenAI的股份，這一事實在OpenAI的網站上也可以確認。
如果間接持股僅占公司價值的0.1%，那么其價值將接近1億美元。
這一模糊的表達就是一個警告信號。當話題回來時，奧特曼本可以補充和糾正它，但他沒有這么做。
人們總喜歡聽熱血青年無私創業的神話，他在《財富》雜志的一篇文章中也聲稱他不需要OpenAI的股權，因為他「不差錢」 。
不久之后的宮斗大戲中，OpenAI轉頭與奧特曼投資的一家芯片公司達成了交易。
最搞笑的是，兩家公司總部都在舊金山，相距不到一公里，走個路十來分鐘就到。
事后看來，關于金錢的討論并不是奧特曼在參議院期間唯一不完全坦誠的事情。
言行不一
更重要的是OpenAI對人工智能監管的立場,奧特曼公開告訴參議院他支持這一法案，而事實表明，奧特曼的言行并不一致。
一方面，也許奧特曼頭腦中的一小部分確實支持人工智能監管。
他多次提到奧本海默，表示他與曼哈頓計劃的領導人同一天生日，也認識到了AI就像核武器一樣，對人類構成嚴重風險。
用他自己在參議院所說的話說，「看，我們已經非常清楚地了解其中的風險……我最擔心的是我們會造成負面影響，AI技術對世界造成巨大傷害。」
但在私下里，他的游說者不斷推動放松AI監管，或者根本不監管。
參議院聽證會1個月后，有消息稱OpenAI正在努力淡化歐盟的人工智能法案。
當他于2023年11月因對董事會「始終不坦誠」而被OpenAI解雇時，Marcus并不感到驚訝。
當時，很少有人支持董事會解雇奧特曼的決定，大批支持者前來幫助他。
許多人是奧特曼的忠實粉絲，Marcus發現著名記者Kara Swisher在推特上屏蔽了他，僅僅因為Marcus暗示了董事會這樣做可能有道理。
另外，奧特曼也利用了媒體。五天后，由于OpenAI的主要投資者微軟的幫助，以及員工支持撰寫請愿書，他被復職。
但自那以后，民眾對于奧特曼的態度也發生了變化，近幾個月來，對奧特曼的擔憂和批評從小眾到了附和不斷。
記者Edward Zitron寫道，奧特曼是「一個假先知，一個骯臟的騙子，利用他非凡的能力來打動和操縱硅谷的精英」。
彭博新聞社的Ellen Huet在播客Foundering上得出的結論是，「當奧特曼說某事時，你無法確定他是否真的是這個意思」。
人工智能先驅Geoffrey Hinton最近也開始質疑奧特曼的動機。
Marcus寫了一篇名為《山姆·奧爾特曼劇本》的文章，剖析了他如何以表面謙遜的方式大肆宣傳，成功地愚弄了大眾這么長時間。
對于一些人來說，奧特曼人設崩塌的導火索是和演員斯嘉麗·約翰遜的糾紛。
斯嘉麗曾明確要求OpenAI不要用她的聲音制作聊天機器人，而奧特曼隨后使用了另一位配音演員，但聲音明顯與她相似，事情鬧大后只能灰溜溜下架。
事實上，在名譽權和著作權上，OpenAI等大公司只向許多藝術家、作家提供很少的補償，甚至可能根本沒有。演員Justine Bateman將其描述為「美國歷史上最大的盜竊案」。
與此同時，OpenAI長期以來一直口頭上強調制定人工智能安全措施的價值，但幾位與安全相關的關鍵員工紛紛離職。
聯合創始人Ilya Sutskever離職，并將他的新公司命名為Safe Superintelligence，而前OpenAI員工Daniel Kokotajlo也警告說，有關安全的承諾正在被忽視。
OpenAI似乎也在堵住員工的嘴，這一現象更加加劇了OpenAI對安全的漠視。
今年5月，記者Kelsey Piper發現了一些文件，允許OpenAI從說公司壞話的前員工手中收回既得股票，這種做法令許多業內人士感到震驚。
今年5月，OpenAI董事會前成員Helen Toner在Ted AI Show播客中表示，「多年來，奧特曼一直讓董事會感到很為難……你知道，他隱瞞信息，歪曲了公司正在發生的事情，在某些情況下甚至是公然地歪曲事實并且對董事會撒謊。」
到了5月下旬，針對OpenAI及其首席執行官的負面新聞不斷累積，以至于風險投資家Matt Turck在X上發布了一幅漫畫，「自上次輕松避免OpenAI爭議以來的天數：0。」
貪婪之罪
短暫的風暴之后，奧特曼仍然運營著OpenAI，并且在很大程度上仍然代表人工智能的公眾形象。
他基本上按照自己的喜好重組了OpenAI的董事會，甚至就在2024年4月，國土安全部部長Alejandro Mayorkas還前往拜訪了奧特曼，招募他加入國土安全部的人工智能安全委員會。
奧特曼的選擇很可能以持久的方式影響全人類——而不僅僅是個人用戶。
此外，由OpenAI普及的GenAI軍備競賽正在對環境產生巨大的影響，無論是用電量、排放量還是用水量。
正如彭博社最近所說，「人工智能已經對全球電力系統造成了嚴重破壞。」
隨著模型本身變得越來越大，對環境的惡劣影響也會越來越大。各國政府目前遵循奧特曼的說法——人工智能最終會得到回報（到目前為止肯定還沒有），證明環境成本是合理的。
與此同時，OpenAI仍然占據了領導地位，奧特曼是國土安全委員會的成員，應該要以審慎的態度接受他的建議。
奧特曼曾經試圖吸引投資者對圍繞生成人工智能的基礎設施進行7 萬億美元的投資，這可能會導致資源的巨大浪費。
最后，高估當前的人工智能局勢可能會導致戰爭。
例如，中美圍繞出口管制展開的「芯片戰爭」——美國限制英偉達設計、臺積電制造的關鍵GPU芯片的出口，影響中國在人工智能領域的發展能力，并導致兩國之間的緊張局勢升級。
奧特曼的出發點可能是好的，也許他真的想拯救世界免受人工智能的威脅，并引導人工智能向善。
但奧特曼畢竟是一位企業家，有時也許貪婪占據了上風。
不幸的是，許多其他人工智能公司似乎走在了奧特曼炒作和偷工減料的老路上。
價值數十億美元的初創公司Perplexity似乎是貪婪的另一個教訓，它對不應該使用的數據進行訓練。
與此同時，微軟從倡導「負責任的人工智能」轉向匆忙推出存在嚴重問題的產品，盲目地卷速度迫使谷歌也這樣做。
金錢和權力正在腐蝕人工智能，就像它們腐蝕社交媒體一樣。
我們根本無法相信大型私營人工智能初創公司能夠以道德和透明的方式進行自我管理，如果我們不能相信他們能夠管理自己，我們當然就不應該讓他們管理世界。
Marcus尖銳地指出，如果我們繼續走當前的道路，他不認為我們會得到一個值得信賴的人工智能。
除了權力和金錢的腐敗影響之外，還存在一個深層次的技術問題：大語言模型不太可能是完全安全的。
它們本質上是頑固的、不透明的——所謂的「黑匣子」，但這樣的黑匣子從來都不可靠。
諷刺的是，當今人工智能面臨的最大威脅可能是人工智能公司本身。
他們的不良行為和夸大的承諾讓很多人望而卻步，許多人已經準備好讓政府采取更強硬的手段。
根據人工智能政策研究所6月份的民意調查， 80%的美國選民選擇「對AI進行監管，要求采取安全措施對AI實驗室進行監督，而不是放任他們進行自我監管」。
為了獲得值得信任的人工智能，Marcus長期以來一直在游說跨國合作，專注于人工智能的安全性和可靠性而不是利潤，開發一套屬于人類的新AI技術。
更重要的是，公民需要大聲疾呼，要求人工智能有利于大多數人，而不僅僅是少數人。
如果我們把一切都交給硅谷，我們就無法到達人工智能的樂土。
數十年來，科技巨頭們一直在掩蓋真相,為什么我們要繼續信任一個企業家的空頭支票呢？
