?作者 | 徐杰承
在微軟New Bing發布前，絕大部分人對其的預測都是——New Bing的整體表現將會與ChatGPT極其相似，即使二者在細節層面存在某些差異，用戶也應當無法從體驗角度發現這些區別。然而隨著New Bing的發布與更新，越來越多的人開始懷疑，微軟與OpenAI此前那宗100億美元的交易，似乎不止關系到ChatGPT這一個“寶貝”。
1、微軟官宣：集成全新模型
雖然New Bing與ChatGPT都基于GPT 3.5系列模型微調而成，但在2月中旬，微軟宣稱已將一種全新的AI語言模型集成到了New Bing之中，使其能夠擁有比ChatGPT更優秀的表現。雖然時至今日微軟仍沒有明確表示新AI模型的來源及相關數據等信息，但部分業內人士猜測該模型很可能與OpenAI遲遲未公開的GPT-4有關。
其實早在去年年底，業內上便已流出了大量關于GPT-4模型的傳聞，部分消息稱GPT-4模型或將擁有超100萬億參數（GPT-3為1750億），也有專家預測GPT-4將更加注重成本控制，模型參數量相比于GPT-3不會有太大變化。據當時部分外媒報道，GPT-4會于2023年2月左右發布，雖然通過近期OpenAI的種種表現及其CEO的發言來看，該信息并不準確。但據《紐約時報》最新消息稱：GPT-4模型將有可能于2023年上半年發布。
且相關測試數據也顯示，更新后的New Bing潛在模型比ChatGPT的延遲更低。此外，從實際的對話表現來看，目前的New Bing與ChatGPT也存在著一定區別，在與用戶對話過程中，New Bing表現出了比ChatGPT更自然、更本能的狀態。但當對話持續性增加時，New Bing也出現了像GPT系列模型一樣的重復回應趨勢。
2、唯一解決方案
在ChatGPT發布期間，OpenAI曾通過其官方博客發文表示：公司已經“從他們的早期模型如GPT-3和Codex的部署中吸取了教訓”，選擇使用RLHF(利用人類反饋信號直接優化語言模型)和監督學習的混合模式來訓練ChatGPT。據OpenAI介紹，使用RLHF方式可以一定程度上降低ChatGPT輸出惡意及錯誤信息的概率。
但從New Bing的角度來看，彼時的微軟迫于與谷歌Bard的競爭，不得不加快New Bing的訓練周期。微軟在啟動New Bing項目到發布期間的不到3個月時間內，是不足以重建完整的RLHF訓練通道并進行整合的。因此微軟在進行New Bing的模型訓練時所采用的應當依然是傳統的監督學習模式。這也導致了New Bing自發布以來，一直受到由開發倉促、缺乏前期訓練所帶來的準確性問題的困擾。
而據相關消息顯示，微軟目前正在通過多種方式嘗試解決New Bing生成內容準確性的問題并已取得了一些成果，但優化方案中并沒有明確提及New Bing使用了RLHF模式重新訓練模型。對此，部分專家推測，微軟很有可能是通過集成其他AI語言模型生成過濾器的方式對New Bing的生成內容進行了優化。
前Playment AI研究員Khamisi也在自己的個人博客中分析了這個問題：“無論ChatGPT還是目前公開的其他模型都無法很好的控制生成惡意信息及虛假信息，如果微軟希望解除對New Bing的問答次數限制，最好的方式就是等待OpenAI給出一些具備該能力的模型并在New Bing中使用它們，如今看來微軟似乎已經在某種程度上做到了這件事。”
3、如膠似漆的合作階段
此外，另一點值得注意的是，盡管OpenAI和微軟的合作關系一直十分密切，但在“關于ChatGPT的合作”之前，二者之間的關系還遠未達到“同穿一條褲子”的程度。在此前的種種合作及交易中，當涉及到數據集以及各自的基礎設施時，他們可以說從未對彼此敞過開心扉。
然而就在今年年初，微軟宣布了與OpenAI長期合作伙伴關系的第三階段，除了數年中數十億美元的投資外，更重要的一點是：微軟在該階段中允許了OpenAI公司及其開發人員通過Azure訪問微軟內部最好的AI基礎設施、模型和工具鏈。而在此之后，OpenAI也立即進一步加大了在模型數據方面的投入。
據外媒報道：從1月末開始，OpenAI已將其數據標記工作外包給了一家于舊金山的數據公司，試圖依靠更準確的數據為其部分AI模型建立更加優質的內容過濾器。而OpenAI的這一舉動，基本可以看做是在得到支持后對微軟表示衷心。結合以上種種現象，我們有理由相信微軟目前很可能已經獲得了GPT-4模型的部分使用權限，并已開始嘗試將其整合進自家搜索引擎及對話機器人之中。
4、寫在最后
總之無論如何，如今微軟與OpenAI的合作已經進入深水區，且GPT-4的公開發布也已指日可待。如果OpenAI希望在正式發布前對GPT-4進行更加完善的測試，那么擁有海量數據及用戶的老大哥微軟無疑是他們最好的選擇，而從ChatGPT中獲利無數的微軟也大概率會欣然接受這位小老弟的請求，畢竟在如今的AI圈內，已經沒什么能比GPT模型的吸金能力更強了。
但從此前多方對GPT-4模型的推測來看，即使目前New Bing已經在內部實現了對GPT-4模型的集成，其應當也只是依靠模型對New Bing的部分現有功能進行了優化，并未將GPT-4的創新性能力公之于眾，這一舉措也的確符合微軟一項保守的行事風格，更何況其競爭對手谷歌不久前剛通過Bard展示了一波什么叫“心急吃不了熱豆腐”。雖然截止目前，無論是微軟還是OpenAI都仍未向外界透露更多有關New Bing與GPT-4的消息，但了解到他們當前的一些動態后，相信每個人對于未來的期待都又增加了一分。
參考鏈接：
https://blogs.microsoft.com/blog/microsoftandopenaiextendpartnership/
https://www.nytimes.com/technology/microsoft-ai-chatgpt-bing.html
https://time.com/6247678/openai-chatgpt-kenya-workers/
https://analyticsindiamag.com/13-not-to-miss-research-papers-on-llms/
