OpenAI更新GPT-4等模型，新增API函數調用，價格最高降75%
前些天，OpenAI 的 CEO Sam Altman 在全球巡回演講中，透漏了 OpenAI 近期發展路線，主要分兩個階段，2023 年的首要任務是推出更便宜、更快的 GPT-4，更長的上下文窗口等；2024 年重點是多模態。
OpenAI 2023 年的這些目標正在逐一實現。從 ChatGPT 推出至今，短短幾個月，OpenAI 在 GPT-3.5 Turbo、GPT-4 等這些模型的基礎上構建了令人難以置信的應用程序。當地時間 6 月 13 日，OpenAI 發布函數調用及其他 API 更新，具體包括：
- 在 Chat Completions API 中新增新的函數調用，能讓模型在需要的時候調用函數并生成對應的 JSON 對象作為輸出；
- 更新和更可操縱版本的 GPT-4 和 GPT-3.5 Turbo；
- 16k 上下文版本的 gpt-3.5-turbo（標準的是 4k 版本）；
- 最先進的嵌入模型（embeddings model）成本降低了 75%；
- gpt-3.5-turbo 輸入 token 成本降低 25%；
- 宣布 gpt-3.5-turbo-0301 和 gpt-4-0314 型號的棄用時間表。
OpenAI 表示：API 中的 GPT-4 和 GPT-3.5 Turbo 模型現在支持調用用戶自定義函數，允許模型使用用戶為其設計的工具。此外，用戶使用模型的價格降低了，OpenAI 也發布了一些新的型號版本（包括 16k 上下文 GPT-3.5 Turbo）：
函數調用
現在開發人員可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函數，并讓模型智能地選擇輸出一個包含調用這些函數所需參數的 JSON 對象。這是一種更可靠地將 GPT 的能力與外部工具和 API 連接起來的新方法。
模型經過微調，既可以檢測何時需要調用函數（取決于用戶的輸入），又可以使用符合函數簽名的 JSON 進行響應。函數調用使開發人員可以更可靠地從模型中獲取結構化數據。例如，開發人員可以：
- 創建聊天機器人，通過調用外部工具來回答問題：
例如將諸如「給 Anya 發電子郵件，問問她下周五是否想喝咖啡」之類的查詢轉換為函數調用 send_email (to: string, body: string) ；或者將「波士頓的天氣怎么樣？」 轉換為 get_current_weather (location: string, unit: 'celsius' | 'fahrenheit')。
- 將自然語言轉換為 API 調用或數據庫查詢：
例如將「誰是我這個月的十大客戶？」轉換為內部 API 調用 get_customers_by_revenue (start_date: string, end_date: string, limit: int)；又或者將「Acme 公司上個月下了多少訂單？」轉化為 SQL 查詢 sql_query (query: string)。
- 從文本中提取數據結構：
例如定義一個名為 extract_people_data (people: [{name: string, birthday: string, location: string}]) 的函數，用來提取維基百科中提到的所有人。
以上這些用例由 /v1/chat/completions 端點、functions 和 function_call 中的新 API 參數啟用，允許開發人員通過 JSON 模式向模型描述函數，并選擇要求它調用特定函數。
函數調用示例
例如用戶詢問「現在波士頓的天氣怎么樣？」，經過一系列處理后，最終模型輸出答案：「波士頓目前天氣晴朗，氣溫為 22 攝氏度。」
下圖對應上圖中的第一步，包括請求和響應：
新模型
首先是 GPT-4：
- gpt-4-0613 包含了一個更新和改進的函數調用模型。
- gpt-4-32k-0613 包括與 gpt-4-0613 相同的改進，以及擴展的上下文長度，以理解更大的文本。
然后是 GPT - 3.5 Turbo：
- gpt-3.5-turbo-0613 包含與 GPT-4 相同的函數調用，以及通過系統消息更可靠的可操作性，開發人員可以利用這兩個特性更加有效地指導模型進行響應。
- gpt-3.5-turbo-16k 提供的上下文長度是 gpt-3.5-turbo 的 4 倍，價格是 gpt-3.5-turbo 的兩倍：每 1K 輸入 token 0.003 美元，每 1K 輸出 token 0.004 美元。16k 上下文意味著該模型現在可以在單個請求中支持大約 20 頁的文本。
模型棄用
3 月發布的 gpt-4 和 gpt-3.5-turbo 的初始版本將進行棄用和升級。應用程序將使用更穩定的模型 gpt-3.5-turbo、 gpt-4 和 gpt-4-32k，這些模型將于 6 月 27 日自動升級。如果大家想對不同版本的模型進行比較，可以使用 Eval 庫進行公共和私有評估。
此外，那些需要過渡時間的開發人員可以繼續使用舊版本的模型 gpt-3.5-turbo-0301、gpt-4-0314 或 gpt-4-32k-0314，但在 9 月 13 號之后，在請求使用這些模型，將會失敗。想要了解更多模型棄用消息，可參考：
模型棄用查詢：https://platform.openai.com/docs/deprecations/
此外，本次更新價格更低了，Text-embedding-ada-002 是嵌入系統最流行的嵌入模型。如今，其成本降低了 75%，低至每 1K token 0.0001 美元。
最后，還有大家比較關注的 GPT - 3.5 Turbo，其為數百萬用戶提供了 ChatGPT 功能。現今，gpt-3.5-turbo 的輸入 token 成本降低了 25%。開發人員現在使用這個模型，每 1K 輸入 token 只需 0.0015 美元，每 1K 輸出 token 只需 0.002 美元，這相當于每美元大約 700 頁。
