OpenAI發佈GPT-4，支持API調用，並將價格降低75%

最近，OpenAI CEO Sam Altman在全球巡迴演講中透露了OpenAI的發展計劃。他提到，OpenAI將分兩個階段進行發展，2023年的首要任務是推出更便宜、更快速的GPT-4，以及支持更長上下文窗口等功能。而2024年的重點則是多模態能力。

如今，OpenAI已經在逐步實現2023年的目標。從ChatGPT發佈以來的短短几個月裏，OpenAI在GPT-3.5 Turbo和GPT-4等模型的基礎上開發了令人難以置信的應用程序。在當地時間的6月13日，OpenAI發佈了函數調用和其他API的更新，具體包括以下內容：

1. 在Chat Completions API中，新增了函數調用的功能，使模型可以在需要的時候調用函數並生成相應的JSON對象作爲輸出。

2. 更新和更可操控的GPT-4和GPT-3.5 Turbo版本。

3. 引入了16k上下文版本的GPT-3.5 Turbo（標準版本爲4k）。

4. 嵌入模型（embeddings model）的成本降低了75%。

5. GPT-3.5 Turbo的輸入token成本降低了25%。

同時，OpenAI宣佈了gpt-3.5-turbo-0301和gpt-4-0314型號的棄用時間表。

根據OpenAI的表示，API中的GPT-4和GPT-3.5 Turbo模型現在支持調用用戶自定義函數，允許模型使用用戶爲其設計的工具。此外，使用模型的用戶價格也降低了。OpenAI還發布了一些新的型號版本，包括16k上下文的GPT-3.5 Turbo。

新的函數調用功能使開發人員能夠描述函數並讓模型智能地生成包含調用所需參數的JSON對象。這種新方法更可靠地將GPT的能力與外部工具和API連接起來。開發人員可以使用函數調用來創建聊天機器人，通過調用外部工具回答問題，或者將自然語言轉換爲API調用或數據庫查詢，甚至從文本中提取數據結構。

例如，你也許有以下幾個場景：

創建聊天機器人，通過調用外部工具來回答問題（像 ChatGPT 插件一樣）

可以將查詢"給Anya發電子郵件，問問她下週五是否想喝咖啡"轉換爲函數調用send_email(to: string, body: string)，或者將"波士頓的天氣怎麼樣？"轉換爲get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。

將自然語言轉換爲API調用或數據庫查詢。

例如將「誰是我這個月的十大客戶？」轉換爲內部API調用 get_customers_by_revenue(start_date: string, end_date: string, limit: int)；又或者將「Acme公司上個月下了多少訂單？」轉化爲SQL查詢sql_query(query: string)。

從文本中提取數據結構。

例如定義一個名爲extract_people_data (people: [{name: string, birthday: string, location: string}])的函數，用來提取維基百科中提到的所有人。

以上用例可以通過/v1/chat/completions端點、functions和function_call中的新API參數實現。開發人員可以通過JSON模式向模型描述函數，並選擇要求模型調用特定函數。

函數調用示例

例如用戶詢問「現在波士頓的天氣怎麼樣？」，經過一系列處理後，最終模型輸出答案：「波士頓目前天氣晴朗，氣溫爲 22 攝氏度。」

下圖對應上圖中的第一步，包括請求和響應：

新模型：

對於GPT-4和GPT-3.5-Turbo的新模型，OpenAI提供了更多功能和改進。其中，gpt-4-0613包含了更新和改進的函數調用模型，而gpt-4-32k-0613在具備與gpt-4-0613相同改進的基礎上，還擴展了上下文長度，可以理解更大的文本。

對於GPT-3.5 Turbo，gpt-3.5-turbo-0613與GPT-4具有相同的函數調用功能，還增加了通過系統消息進行更可靠的操作性，開發人員可以更有效地引導模型進行響應。此外，gpt-3.5-turbo-16k提供了比gpt-3.5-turbo四倍的上下文長度，並且價格是gpt-3.5-turbo的兩倍，每1K輸入token價格爲0.003美元，每1K輸出token價格爲0.004美元。這意味着該模型現在可以在單個請求中支持大約20頁的文本。

模型棄用：

對於舊版本的模型gpt-4和gpt-3.5-turbo，OpenAI將於6月27日自動升級爲更穩定的模型gpt-3.5-turbo、gpt-4和gpt-4-32k。如果開發人員需要過渡時間，仍可以在9月13日之前繼續使用舊版本的模型，但在那之後，使用這些模型的請求將會失敗。開發人員可以使用Eval庫進行公共和私有評估，以對不同版本的模型進行比較。

模型棄用查詢：

https://platform.openai.com/docs/deprecations/

此次更新還降低了價格。其中，Text-embedding-ada-002是最受歡迎的嵌入模型，現在其成本降低了75%，每1K token的價格爲0.0001美元。

最後，備受關注的GPT-3.5-Turbo爲數百萬用戶提供了ChatGPT功能。目前，gpt-3.5-turbo的輸入token成本降低了25%。開發人員現在可以以每1K輸入token只需0.0015美元的價格使用該模型，每1K輸出token只需0.002美元，相當於每美元可獲得約700頁的輸出。

參考鏈接：https://openai.com/blog/function-calling-and-other-api-updates