大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式原創

發布于 2024-7-1 12:15

瀏覽

0收藏

?API（應用程序編程接口，Application Programming Interface）是一組定義和協議，用于構建和集成應用程序軟件。API允許不同的軟件系統之間進行通信和數據交換。大模型API是大模型應用開發的基礎。API的使用不需要很高的算力，CPU就能跑。

1.API作用及優勢

大模型API（如GPT-4、BERT等）提供了強大的自然語言處理（NLP）能力，可以應用于各種任務。以下是大模型API的主要功能和用途：

1. 自然語言理解和生成：

- 理解和生成自然語言文本，如撰寫文章、生成對話、回答問題等。

2. 對話系統：

- 創建智能聊天機器人，用于客戶服務、技術支持等。

3. 文本分析：

- 分析情感、分類文本、提取關鍵詞、總結文章等。

4. 翻譯：

- 提供高質量的多語言翻譯服務。

5. 內容生成：

- 生成創意文案、寫作輔助、代碼生成等。

6. 搜索和推薦：

- 提供上下文相關的搜索結果和個性化推薦。

7. 教育和培訓：

- 提供個性化的學習輔助，生成練習題、解釋復雜概念等。

優勢

1. 提高效率：

- 自動化許多需要大量時間和精力的任務，如文案撰寫、客戶服務等。

2. 增強創造力：

- 提供靈感和輔助創作，幫助人們突破創作瓶頸。

3. 個性化服務：

- 根據用戶需求提供定制化的響應和服務，提高用戶滿意度。

4. 擴展能力：

- 將先進的NLP能力集成到現有系統中，提升整體功能和用戶體驗。

本文以chatgpt 的api為例進行說明。大家也可以試用其他大模型的API，在官網都可以購買到API。這個是API匯總的網站：

??https://www.aigc.cn/api???

正常API都是要花錢購買的，計費按照token算。后面會有API的計費說明。這里提供幾個免費獲取API的渠道，供大家參考。（網絡系統可能隨時變化，這些渠道后續也可能不能使用）

2.免費獲取試用 API 及API使用示例

一個叫做GPT-API-free，下面是它的網頁。

??https://github.com/chatanywhere/GPT_API_free??

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

Github授權成功后，獲得免費使用的API，但是數量有限。

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

Host地址

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

下面看看如何使用，使用API調用大模型進行對話：

先要安裝必要的模塊：

pip install openai

from openai import OpenAI
       
# 假設您的 OpenAI API 密鑰是 "sk-yourapikey"


client = OpenAI(


    api_key="sk-****************************",


    base_url="https://api.chatanywhere.tech/v1"


)
         
# 發送請求


response = client.chat.completions.create(


    model="gpt-3.5-turbo",


    messages=[


        {"role":"user", "content":"四大文明古國分別有哪些？"}


    ]


)


# 打印響應內容


print(response.choices[0].message.content)

得到的回復：

四大文明古國指的是古埃及、古巴比倫、古印度和古中國，它們被認為是世界上擁有最悠久歷史和文明的四個國家。

保管好自己的API key很重要，因此把KEY放到環境中，在調用的時候就可以不顯示key了。

編輯 ~/.bashrc 文件，把key加入環境變量

vim ~/.bashrc

在~/.bashrc 文件末尾加上key

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

保存退出后，要在當前終端會話中立即應用 ~/.bashrc 文件中的更改，可以使用以下命令：

source ~/.bashrc

創建模型實例的代碼可以是這樣：

client = OpenAI(


    api_key="",


    base_url="https://api.chatanywhere.tech/v1"


)

3.免費獲取OpenAI API key二

ChatGPT API 水龍頭，每24小時可領取一個 $1.00 令牌用于開發測試 AI 產品.

??https://faucet.openkey.cloud/??

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

4.免費獲取OpenAI API key三

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

刷新頁面后

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區

5.API的計費

使用AI模型的API一個很有必要了解的知識點是，它們都是咋收費的？簡短的答案是，絕大部分大模型API的計費是基于token數量的。那么，什么是token呢？token可以被理解為是文本的一個基本單位，取決于不同的token化方法。短單詞可能每個詞是一個token。長單詞可能被拆分成多個token，而中文的話所占的token數量會相對更多，有些字要用一個甚至更多token表示。

你可以去openai的這個網站，它有一個交互式分詞器，能展示任意文本如何被映射為不同的token。

??https://platform.openai.com/tokenizer??

如果你輸入中文，可以看到很多單獨的字，本身就是一個token，而常用詞可能一個詞是一個token。而有些不常見的字，可能會被映射成多個token，以至于網頁無法展示出拆分的半個字，就是圖上的？。

大模型（LLM） API的使用，免費獲取試用API方法，付費API計費方式-AI.x社區