整理丨諾亞

外媒The Verge于北京時間今日凌晨報道，在生成式AI的瘋狂競賽中，字節跳動一直在秘密利用OpenAI的技術“走捷徑”，直指字節跳動在中國使用GPT生成的數據來訓練自己的大模型，違反了微軟和OpenAI的開發者許可。不久后，OpenAI發言人Niko Felix發表聲明，確認字節跳動的賬戶已被暫停并將做進一步調查。

1、“他們想確保一切都合法，但他們真的只是不想被抓住” 

外媒稱，字節跳動此舉違反了OpenAI的有關服務條款。該條款規定，其模型輸出不能用于“開發任何與我們的產品和服務競爭的人工智能模型”。字節跳動正在通過微軟購買OpenAI的使用權，微軟也有同樣的政策。

但是記者Alex Heath表示，從他看到的字節跳動內部文檔可以證實，在幾乎每個開發階段，包括訓練和評估模型，字節跳動都依賴OpenAI API來開發其基礎大模型，代號為“種子計劃（Project Seed）”。

報道提到，自從大約一年前字節跳動內部啟動“種子計劃”以來，它已成為一項高度優先的秘密計劃。從事這項工作的員工必須簽署單獨的保密協議。參與其中的員工也很清楚此事曝光的影響。Alex Heath在飛書國際版Lark的內部溝通記錄上看到過關于如何通過“數據脫敏”來“粉飾”證據的對話，“濫用如此猖獗，以至于種子計劃的員工經常達到 API 訪問的上限”。

內部文件顯示，在種子計劃的早期階段，對于OpenAI平臺的使用更為肆無忌憚。但幾個月前，字節跳動命令該團隊在“模型開發的任何階段”停止使用GPT生成的文本。也就是在這個時候，字節跳動獲得了中國監管部門的批準，通過AI大模型“豆包”讓種子計劃上線。

Alex稱，盡管如此，這種API的使用方式仍然違反了OpenAI和微軟的服務條款，包括評估在豆包背后的模型的性能。文中引用了一位聲稱對字節跳動內部情況有深入了解的爆料者的話，“他們說他們想確保一切都是合法的，但他們真的只是不想被抓住”。

2、OpenAI的回應：暫停賬號，作進一步調查

對于該報道，來自字節跳動、微軟以及OpenAI三方的發言人均給出了回應。

字節跳動發言人Jodi Seth在回應這篇報道中詳細列出的事實時表示，GPT生成的數據在種子計劃的早期開發中被用于注釋模型，并且在今年年中左右就從字節跳動的訓練數據中刪除了它。

她提到:“字節跳動獲得了微軟使用GPT API的許可。”“我們使用GPT為非中國市場的產品和功能提供動力，但使用我們自主開發的模式為豆包提供動力，而豆包只在中國提供。”

微軟發言人Frank Shaw則在一份聲明中表示:“微軟人工智能解決方案(如Azure OpenAI Service)是我們有限訪問框架的一部分，這意味著所有客戶必須申請并獲得微軟批準才能訪問。”“我們還制定標準并提供資源，幫助我們的客戶在遵守服務條款的情況下負責任地使用這些技術，并制定了適當的流程來檢測濫用，并在公司違反我們的行為準則時停止訪問權限。”

OpenAI發言人Niko Felix則向該報道的作者表示，確認字節跳動的賬戶已被暫停:“所有API客戶必須遵守我們的使用政策，以確保我們的技術得到善用。雖然字節跳動對我們API的使用很少，但我們在進一步調查期間暫停了他們的賬戶。如果我們發現他們的使用不遵守這些政策，我們將要求他們做出必要的改變或終止他們的賬戶。”

3、灰色地帶：瘋狂競賽中的鋌而走險 

今年以來，在OpenAI掀起的這場生成式AI競賽中，無論是巨頭還是初創企業，都被卷入了某種“瘋狂”的漩渦中。時不我待的焦慮感成為了每個人頭上的緊箍咒。于是乎，灰色地帶應運而生。

使用專有的人工智能模型（尤其是OpenAI的模型）來幫助構建競爭產品已經成為小公司的普遍做法。這通常被視為一個法律灰色地帶，因為OpenAI和微軟還沒有公開對任何一個違規者做出“嚴懲”。正如Databricks負責生成式人工智能的副總裁Naveen Rao所說：“現在很多初創公司都在冒這個風險。”

外媒強調，在此次事件中，對于像字節跳動這樣體量的公司來說，這種行為是非常不尋常的。這表明種子計劃團隊承受著快速交付的巨大壓力。

據報道，種子計劃正在開發的兩款主打產品，一是豆包，目前在中國上線的AI聊天機器人，另一個是以商業為中心的機器人平臺，正在開發中，將通過字節跳動的云部門銷售。種子計劃與TikTok無關，它是在中國的服務器上開發的。項目負責人是字節跳動的搜索主管朱文佳，他向公司最高工程負責人楊震原匯報工作。

雖然員工們被告知，種子計劃的目標是像 OpenAI 一樣，最終構建通用人工智能，但真正的目標似乎是盡快成為中國的 ChatGPT。該團隊已接到命令，即在今年年底前與 GPT-3.5 的性能相匹敵，并在 2024 年年中之前與 GPT-4 相匹敵。當前的 Seed 模型大約有 2000 億個參數。相比之下，GPT-3.5 有 1750 億個參數，而GPT-4 的參數規模尚未公布。   

濫用GPT來打造競爭對手并非個案。今年早些時候，谷歌的一名研究人員曾辭職以示抗議，因為一些員工試圖使用來自一個網站的數據，該網站包含人們上傳的與ChatGPT的對話。雖然那次事件并沒有發酵產生輿情，但也被內部視為恥辱。

4、衍生問題：大模型幻覺的加劇

當前OpenAI正在致力于識別API的輸出，以防止潛在的誤用、濫用，但潘多拉之匣已然開啟。目前尚不清楚字節跳動這樣的行為是否會進一步加劇中美之間高度緊張的關系，畢竟兩國都將人工智能視為國家安全問題。

另一個必須關注的問題是，當大模型越來越多地幫助構建其他大模型時，在線信息的質量會發生什么變化。由于基礎模型已經在非事實的、人工創建的數據上進行了訓練，因此使用它們來構建更多的大模型只會放大幻覺問題。在鋼絲上行走的同時又要警惕陷入更為濃稠的迷霧，人工智能的前路到底會走向何方？我們或許也只有在迷茫中繼續前行，在更深度的博弈中尋找答案。

參考鏈接：

https://www.theverge.com/2023/12/15/24003151/bytedance-china-openai-microsoft-competitor-llm

https://www.theverge.com/2023/12/15/24003542/openai-suspends-bytedances-account-after-it-used-gpt-to-train-its-own-ai-model