國外一美女程序員，在Github上通過檢索gpt, llm, 和generative ai等關鍵字，從數十萬檢索結果中得到900個500+ star大模型開源項目。

她將統計結果放到了網站上，并定期更新star數等信息，同時提供了排序，分組，過濾等工具，我們也可以拿她的統計結果來進行分析。

??https://huyenchip.com/llama-police??

接下來讓我們看看她通過分析這些開源項目學到了什么。

新的AI堆棧

基礎設施包括訓練大模型的硬件資源，訓練大模型需要大量的顯卡，一些企業考慮到數據安全，以及從長遠成本考慮，選擇搭建自己的計算中心。NVIDIA這幾年靠著賣顯卡可謂賺的盆滿缽滿，顯卡價格一路飆升，即使這樣仍是一卡難求。

模型開發工具包括像TensorFlow、PyTorch等AI框架，框架本身是開源免費的，但可以通過附加的云服務和硬件資源來賺錢。

應用軟件指的是基于大模型的工具，一般通過閉源大模型有償向用戶提供訪問接口，例如，openAI每個月都會向Plus用戶收取會員費以及API調用費用。

隨時間變化

圖表顯示，當chatGPT發布后，大模型的相關項目數量開始呈指數級增長。

這說明當一項顛覆性技術出現后，圍繞此技術的各項發明會迅速增加。

就像當年的電力。

但大家會有疑問，大模型也就能畫個圖，寫寫小作文，說它是顛覆性技術，有點過了吧？

當年電力取代蒸汽機時，一開始人們對于電機也是持懷疑態度，因為它并沒有提高生產效率。

后來人們才發現，是使用方法不當。

在傳統工廠的中間會有一個蒸汽機，然后通過傳動裝置驅動各個模塊，有了電機后只是簡單的將蒸汽機替換成了電機。

本質上還是個集中式系統，依據木桶原理，整體效率仍然受限于最差的那個。

后來，工廠將電機應用于各個模塊，這就是現代工廠流水線的雛形，這樣的分布式系統大大提升了效率

電開始普及開來。

在應用層領域，項目最多的是code和bots。

code：當大模型在自然語言上取得成效后，人們開始將大模型應用于人造語言上，代碼就是其中之一。

bots：相對被動式的一問一答，人們希望大模型能夠自主思考，會使用工具，并且嫩進行決策。

information aggregation：科技的進步只是將人類從繁重的體力勞動中解放出來，人們要學的東西日益增多，大模型的概括能力讓人具有一目十行的超能力。

專注Prompt工程的人，我認為是最聰明的人，因為它是性價比最高的提升大模型性能的方法。

前面我也通過兩個例子證明了Prompt工程的超能力，僅僅通過在Prompt前面加個think step by step，就讓大模型答對了9.11和9.3哪個大的問題，以及strawberry有多少個r的問題。

本文轉載自公眾號人工智能大講堂 

原文鏈接：??https://mp.weixin.qq.com/s/QWGyhYHonybE2F6iomJb8w??