OpenAI发布GPT-4,支持API调用,并将价格降低75%

最近,OpenAI CEO Sam Altman在全球巡回演讲中透露了OpenAI的发展计划。他提到,OpenAI将分两个阶段进行发展,2023年的首要任务是推出更便宜、更快速的GPT-4,以及支持更长上下文窗口等功能。而2024年的重点则是多模态能力。

如今,OpenAI已经在逐步实现2023年的目标。从ChatGPT发布以来的短短几个月里,OpenAI在GPT-3.5 Turbo和GPT-4等模型的基础上开发了令人难以置信的应用程序。在当地时间的6月13日,OpenAI发布了函数调用和其他API的更新,具体包括以下内容:

1. 在Chat Completions API中,新增了函数调用的功能,使模型可以在需要的时候调用函数并生成相应的JSON对象作为输出。

2. 更新和更可操控的GPT-4和GPT-3.5 Turbo版本。

3. 引入了16k上下文版本的GPT-3.5 Turbo(标准版本为4k)。

4. 嵌入模型(embeddings model)的成本降低了75%。

5. GPT-3.5 Turbo的输入token成本降低了25%。

同时,OpenAI宣布了gpt-3.5-turbo-0301和gpt-4-0314型号的弃用时间表。


根据OpenAI的表示,API中的GPT-4和GPT-3.5 Turbo模型现在支持调用用户自定义函数,允许模型使用用户为其设计的工具。此外,使用模型的用户价格也降低了。OpenAI还发布了一些新的型号版本,包括16k上下文的GPT-3.5 Turbo。

新的函数调用功能使开发人员能够描述函数并让模型智能地生成包含调用所需参数的JSON对象。这种新方法更可靠地将GPT的能力与外部工具和API连接起来。开发人员可以使用函数调用来创建聊天机器人,通过调用外部工具回答问题,或者将自然语言转换为API调用或数据库查询,甚至从文本中提取数据结构。

例如,你也许有以下几个场景:

创建聊天机器人,通过调用外部工具来回答问题(像 ChatGPT 插件一样)

可以将查询"给Anya发电子邮件,问问她下周五是否想喝咖啡"转换为函数调用send_email(to: string, body: string),或者将"波士顿的天气怎么样?"转换为get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。

将自然语言转换为API调用或数据库查询。

例如将「谁是我这个月的十大客户?」转换为内部API调用 get_customers_by_revenue(start_date: string, end_date: string, limit: int);又或者将「Acme公司上个月下了多少订单?」转化为SQL查询sql_query(query: string)。

从文本中提取数据结构。

例如定义一个名为extract_people_data (people: [{name: string, birthday: string, location: string}])的函数,用来提取维基百科中提到的所有人。

以上用例可以通过/v1/chat/completions端点、functions和function_call中的新API参数实现。开发人员可以通过JSON模式向模型描述函数,并选择要求模型调用特定函数。

函数调用示例

例如用户询问「现在波士顿的天气怎么样?」,经过一系列处理后,最终模型输出答案:「波士顿目前天气晴朗,气温为 22 摄氏度。」

下图对应上图中的第一步,包括请求和响应:

新模型:

对于GPT-4和GPT-3.5-Turbo的新模型,OpenAI提供了更多功能和改进。其中,gpt-4-0613包含了更新和改进的函数调用模型,而gpt-4-32k-0613在具备与gpt-4-0613相同改进的基础上,还扩展了上下文长度,可以理解更大的文本。

对于GPT-3.5 Turbo,gpt-3.5-turbo-0613与GPT-4具有相同的函数调用功能,还增加了通过系统消息进行更可靠的操作性,开发人员可以更有效地引导模型进行响应。此外,gpt-3.5-turbo-16k提供了比gpt-3.5-turbo四倍的上下文长度,并且价格是gpt-3.5-turbo的两倍,每1K输入token价格为0.003美元,每1K输出token价格为0.004美元。这意味着该模型现在可以在单个请求中支持大约20页的文本。


模型弃用:

对于旧版本的模型gpt-4和gpt-3.5-turbo,OpenAI将于6月27日自动升级为更稳定的模型gpt-3.5-turbo、gpt-4和gpt-4-32k。如果开发人员需要过渡时间,仍可以在9月13日之前继续使用旧版本的模型,但在那之后,使用这些模型的请求将会失败。开发人员可以使用Eval库进行公共和私有评估,以对不同版本的模型进行比较。


模型弃用查询:

https://platform.openai.com/docs/deprecations/

此次更新还降低了价格。其中,Text-embedding-ada-002是最受欢迎的嵌入模型,现在其成本降低了75%,每1K token的价格为0.0001美元。

最后,备受关注的GPT-3.5-Turbo为数百万用户提供了ChatGPT功能。目前,gpt-3.5-turbo的输入token成本降低了25%。开发人员现在可以以每1K输入token只需0.0015美元的价格使用该模型,每1K输出token只需0.002美元,相当于每美元可获得约700页的输出。


参考链接:https://openai.com/blog/function-calling-and-other-api-updates

更多游戏资讯请关注:电玩帮游戏资讯专区

电玩帮图文攻略 www.vgover.com