Posted in

GPT-4o 新版本突然上线:丝滑解决 9.11 和 9.9 谁大,更强也更便宜了_AI阅读总结 — 包阅AI

包阅导读总结

1. `GPT-4o`、`新版本`、`结构化输出`、`更强更便宜`、`能力提升`

2. GPT-4o 新版本上线,能力全方位提升,输入和输出更节省,成本降低。引入结构化输出,确保模型输出更可靠安全,在多项测试中表现出色,价格也相对更优惠。

3.

– GPT-4o 新版本突然上线

– 能力全方位提升

– ZeroEval 基准测试跃居第一

– 输入节省 50%,输出节省 33%,token 输出扩展到 16k

– 解决 9.11 和 9.9 谁大的问题

– 成本降低

– 输入价格 2.5 美元/100 万 token,输出价格 10 美元/100 万 token

– API 支持结构化输出

– 形式包括函数调用和 response_format 参数新选项

– 更新 Python 和 Node SDK 支持本地结构化输出功能,强调安全输出

– 可用于多种用例

思维导图:

文章地址:https://www.qbitai.com/2024/08/175537.html

文章来源:qbitai.com

作者:明敏

发布时间:2024/8/7 4:54

语言:中文

总字数:1055字

预计阅读时间:5分钟

评分:88分

标签:GPT-4o,结构化输出,成本效益,OpenAI,AI模型


以下为原文内容

本内容来源于用户推荐转载,旨在分享知识与观点,如有侵权请联系删除 联系邮箱 media@ilingban.com

GPT-4o新版本突然上线:丝滑解决9.11和9.9谁大,更强也更便宜了

明敏2024-08-0712:54:18 来源:量子位

明敏 发自 凹非寺

量子位 | 公众号 QbitAI

GPT-4o新版本突然上线,更强更便宜。

能力全方位提升,ZeroEval基准测试直接跃居第一。

输入和输出分别节省50%、33%。

四舍五入就是API降价啊。

token输出扩展到16k,此前支持4k。

9.11和9.9谁大这个问题,也能丝滑解决。

这是因为OpenAI给API中引入了结构化输出。

通过JSON 模式确保模型输出符合开发者定义的结构,能让模型变得更可靠安全。

最新版模型“GPT-4o-2024-08-06”在JSON模式评估中,得分100%

相比之下,GPT-4-0613版本得分还低于40%。

在代码编辑方面,最新版本的基准得分和此前版本相同,但是现在成本只有原来的一半。

还有人发现,这个新版本是OpenAI在图像输入上最便宜的型号。

API支持结构化输出

去年OpenAI DevDay上,官方正式给GPT-4引入了JSON模式,可以帮助开发者构建应用程序。

尽管JSON模式能提高模型可靠性,但是它并不能保证模型生成结果符合特定模式。

因此在这次更新中,OpenAI在API中引入结构化输出,可以确保模型生成内容和开发者提供的JSON模式完全匹配。

主要形式有两种:

1、函数调用:通过在函数定义中设置strict:ture来调用结构化输出。

此功能适用于所有模型型号,包括gpt-4-0613和gpt-3.5-turbo-0613等。当结构化输出被启用时,模型输出将匹配提供的工具定义。

2、response_format参数新选项。

开发者可以通过json_schema (response_format参数的新选项)提供JSON模式。

当模型不是调用工具,而是以结构化的方式响应用户时,这是有用的。该功能适用于gpt-4o-2024-08-06和gpt- 4o-mini-2024-07-18。当response_format使用strict: true提供时,模型输出将与提供的模式匹配。

OpenAI更新了Python和Node SDK,支持本地的结构化输出功能。

此外,还强调了安全输出。新模式将遵循现有的安全规则,并引入了refusal字符串值来帮助开发者识别模型拒绝 unsafe 请求的情况。

结构化输出还可以用于动态生成用户界面、分离最终答案与推理过程、从非结构化数据中提取结构化数据等多种用例。

最后在价格方面,输入价格为2.5美元/100万token,输出价格为10美元/100万token。

由于新模型在输入和输出上能更节省,四舍五入也是降价了。

有人发现,这个新模型的输出没有上一版本那么冗长,成本上更可控。

参考链接:
https://openai.com/index/introducing-structured-outputs-in-the-api/

版权所有,未经授权不得以任何形式转载及使用,违者必究。