Sam Alman被解雇，又曝出最新內(nèi)幕！

據(jù)路透社報(bào)道，就在他被解雇的前四天，OpenAI內(nèi)部的研究員曾向董事會(huì)發(fā)了一封警告信，稱發(fā)現(xiàn)了一個(gè)可能威脅人類的強(qiáng)大人工智能。

知情人士表示，這封此前從未報(bào)道過的信，也是董事會(huì)最終罷免Altman的導(dǎo)火索之一。

據(jù)稱，曾任OpenAI臨時(shí)CEO的Mira Murati，在周三提到了這個(gè)名為Q*（讀作Q-Star）的項(xiàng)目，并且在「政變」發(fā)生之前給董事會(huì)寫過一封信。

董事會(huì)覺得，Altman瞞著董事會(huì)在推進(jìn)可能威脅人類的項(xiàng)目。

與此同時(shí)，有內(nèi)部研究員認(rèn)為，OpenaAI在Q*上取得的進(jìn)展，將會(huì)成為AGI的一個(gè)重要突破！

不過，就在剛剛，TradingStrategy.ai聯(lián)創(chuàng)表示，「AI重大突破」這個(gè)說法已被OpenAI內(nèi)部人士打假。

APEC會(huì)議上的「危險(xiǎn)」發(fā)言

印證項(xiàng)目的另一事件，是Sam Altman在被解雇的一天，在APEC一次會(huì)議上的發(fā)言。

在那次會(huì)議上，他暗示了OpenAI已經(jīng)開發(fā)出了比GPT-4更強(qiáng)大、更難以想象的東西，遠(yuǎn)超人們的期待。

模型的能力將會(huì)有一個(gè)無人預(yù)料到的飛躍。與人們的預(yù)期不同，這個(gè)飛躍是驚人的！

而這次發(fā)言，很可能也是他被解雇的導(dǎo)火索之一，會(huì)讓Ilya等董事會(huì)成員認(rèn)為，他隱瞞了許多信息。

現(xiàn)在正在發(fā)生的技術(shù)變革，將徹底改變我們生活方式、經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)以及其他可能性限制……這在OpenAI的歷史上有四次 ，而最近一次，就是在過去幾周內(nèi)。

在撥開無知的面紗和探索未知的邊界時(shí)，我有幸在場， 這是我職業(yè)生涯中的榮幸。

Q*就是AGI？

其中一位知情人士說，在與路透社聯(lián)系后，拒絕置評的OpenAI在給員工的內(nèi)部消息中，承認(rèn)了一個(gè)名為Q*的項(xiàng)目，并在周末的活動(dòng)前給董事會(huì)寫了一封信。

OpenAI的一位發(fā)言人表示，這條消息由CTO Mira Murati發(fā)送，提醒員工注意某些媒體報(bào)道，但并沒有對其準(zhǔn)確性發(fā)表評論。

其中一位知情人士告訴路透社，OpenAI的一些人認(rèn)為Q*（發(fā)音為Q-Star）可能是OpenAI在AGI上取得的一個(gè)突破。

在OpenAI看來，AIG可以定義為「在最具經(jīng)濟(jì)價(jià)值的任務(wù)中，超越人類的自主系統(tǒng)」。

因?yàn)榫薮蟮乃懔χС郑履Ｐ涂梢越鉀Q某些數(shù)學(xué)問題。雖然只是可以在小學(xué)水平上做數(shù)學(xué)題，但通過這樣的測試，讓研究者對Q*的未來非常樂觀。

根據(jù)內(nèi)部人士透露，在給董事會(huì)的信中，研究人員標(biāo)記了AI的實(shí)力和潛在危險(xiǎn)，但沒有具體說明信中提到的確切安全問題。

另外，研究人員還標(biāo)記了一個(gè)「人工智能科學(xué)家」團(tuán)隊(duì)的工作，有多個(gè)消息來源證實(shí)了該團(tuán)隊(duì)的存在。

30多年前，F(xiàn)odor和Pylyshyn提出的經(jīng)典論點(diǎn)——神經(jīng)網(wǎng)絡(luò)由于其統(tǒng)計(jì)性質(zhì)而從根本上缺乏人類的系統(tǒng)組合技能——給神經(jīng)網(wǎng)絡(luò)研究蒙上了長長的陰影

其中一位知情人士說，該小組由早期的「Code Gen」和「Math Gen」團(tuán)隊(duì)組成，正在探索如何優(yōu)化現(xiàn)有的人工智能模型，以提高其推理能力，并最終進(jìn)行科學(xué)工作。

項(xiàng)目由Ilya主導(dǎo)

據(jù)悉，一些OpenAI員工認(rèn)為，Altman的言論應(yīng)該指的是公司早些時(shí)候的一項(xiàng)創(chuàng)新，就是這項(xiàng)創(chuàng)新，能讓他們開發(fā)出更強(qiáng)大的AI模型。

Ilya團(tuán)隊(duì)的這項(xiàng)工作，此前從未被報(bào)道過。

知情人士透露，這項(xiàng)由OpenAI首席科學(xué)家Ilya Sutskever主導(dǎo)的技術(shù)突破，引起了一些員工的擔(dān)憂。他們擔(dān)心公司沒有合適的保障措施，來將這種先進(jìn)的AI模型商業(yè)化。

在接下來的幾個(gè)月里，OpenAI的高級研究人員又利用這項(xiàng)創(chuàng)新，建立了能夠解決基本數(shù)學(xué)問題的系統(tǒng)。

經(jīng)常用大模型的人都知道，數(shù)學(xué)問題對于現(xiàn)有的LLM，都是一項(xiàng)艱巨的任務(wù)。

根據(jù)The Information報(bào)道，OpenAI的兩位研究員，Jakub Pachocki和Symon Sidor，利用Ilya的工作成果建立了一個(gè)名為Q*(讀作「Q-Star」) 的模型。

據(jù)稱，Q*模型能夠解決它以前從未見過的數(shù)學(xué)問題，而這，是一個(gè)重要的技術(shù)里程碑。

最近幾周內(nèi)，該模型的演示一直在OpenAI內(nèi)部流傳，而AI的發(fā)展速度，也讓安全研究人員感到震驚。

據(jù)內(nèi)部人士爆料，Ilya的突破，使OpenAI不再受限于獲取足夠的高質(zhì)量數(shù)據(jù)來訓(xùn)練新模型，而這，正是開發(fā)下一代模型的主要障礙。

這項(xiàng)研究涉及使用計(jì)算機(jī)生成的數(shù)據(jù)，而不是真實(shí)世界的數(shù)據(jù)，比如從互聯(lián)網(wǎng)上提取的文本或圖像。

多年來，Ilya一直在研究如何讓GPT-4解決涉及推理的任務(wù)，比如數(shù)學(xué)或科學(xué)問題。

此前，Ilya在這個(gè)方向就有多年積累。21年，他啟動(dòng)了一個(gè)名為GPT-Zero的項(xiàng)目，這是對DeepMind AlphaZero的致敬。

GPT-Zero可以下國際象棋、圍棋和將棋。而團(tuán)隊(duì)假設(shè)，只要給大模型更多的時(shí)間和算力，假以時(shí)日，它們一定能達(dá)到新的學(xué)術(shù)突破。

而且在半年之前，就有硅谷大佬扒出，OpenAI很有可能會(huì)將「實(shí)時(shí)檢索」和模型能力結(jié)合起來，創(chuàng)造出難以想象的AI能力。

尤其是針對LLM亟待提高的數(shù)理和推理能力，未來有可能會(huì)有極大提升。

在提出了這種可能性之后，他于兩周之后就加入了OpenAI。

對齊派 VS 加速派

而即使在昨天Altman重返CEO之位后，高管之間的潛在分歧似乎仍未消除，因?yàn)镺penAI內(nèi)部對工作進(jìn)度的緊張關(guān)系仍在持續(xù)。

Ilya本人似乎對這項(xiàng)技術(shù)持保留意見。今年7月，他組建了對齊團(tuán)隊(duì)，致力于限制AI系統(tǒng)可能給人類帶來的威脅。

在OpenAI的對齊團(tuán)隊(duì)看來，雖然超級AI還很遙遠(yuǎn)，但他們相信它會(huì)在十年內(nèi)到來。

Pachocki和Sidor的立場，大概率是在Ilya對齊團(tuán)隊(duì)的反面。

上周Altman被解雇后，兩人也迅速辭職。而Altman復(fù)職后，兩人也隨之回到了公司。

而OpenAI總裁兼聯(lián)創(chuàng)Greg Brockman，對于這項(xiàng)技術(shù)也持支持態(tài)度，致力于將其整合到新產(chǎn)品中。他同樣是在Altman復(fù)職后，隨之回到了公司。