乐趣区

关于机器学习:GPT4-和ChatGPT-API的定价分析

OpenAI 公布了他们的 ChatGPT 新机器学习模型 GPT-4。GPT- 4 是 GPT- 3 的一大提高,GPT- 3 是以后 ChatGPT 收费版本 (GPT 3.5 Turbo) 所运行的模型的根底,明天咱们也来凑个热点,钻研一下它们的定价

GPT- 4 新的性能

GPT- 4 能够在对话中应用图像,并能够答复无关图像的问题。前还没有官网确认除了用户输出之外,聊天机器人是否能够输入图像。

应用 GPT- 4 能够抓取网站链接:发送一个链接,他就能够主动抓取内容,并不需要复制粘贴来发送网站的内容。

GPT- 3 每个申请的字数限度在 3000 字左右。GPT- 4 将这一限度大幅提高到 2.5 万字。这样,语言模型将可能在更好的上下文环境下进行更长的对话,这将进步它在特定上下文中答复的准确性和精确性。

测试指标明显提高:GPT- 4 训练的数据量比 GPT- 3 大得多,所以 GPT- 4 有更多的常识是有情理的,所以他在各种测试中失去更好的指标也是天经地义。

以上这些就是一些 GPT- 4 新的性能,这个大家应该都看过好几遍了,上面咱们来进行另外一个视角的比照

GPT-4 API 定价剖析

GPT-4 API 的模型被命名为 GPT-4 – 0314。要通过 GPT-4 API 拜访这个模型,定价是:

$0.03 / 1k 提醒申请令牌

$0.06 / 1k 实现响应令牌

这里的 1k 令牌相当于 750 个单词。

与 GPT-3.5 相比,GPT-4 API 将令牌的最大上下文长度减少了一倍,从 4,096 减少到 8,192。而 GPT-4 API 的默认速率限度是:

每分钟 40k 个令牌,每分钟 200 个申请

除了 API 以外(须要申请)还能够通过 ChatGPT Plus 拜访 GPT-4,这个是每月 20 美元,依据限度来说,目前每 4 小时最多能够发送 100 条音讯。

相比之下,只需 20 美元,就能够应用 GPT-4 API 解决大概 444k 令牌(大概 333k 个单词)。

那么,如果思考 GPT-4 API 和 ChatGPT API 之间的比拟:

用于提醒申请的 GPT- 4 比 ChatGPT API 贵 14 倍; 而用于实现的 GPT- 4 比 ChatGPT API 贵 29 倍。

那么咱们就要钻研一下这 14x-29x 之间的 GPT-4 API 比 ChatGPT API 更有价值吗?

咱们次要思考因素还是用例。如果用例与法律事务或通识教育 / 辅导相干,那么 GPT- 4 相对值得一试。因为它在这两方面的晋升是非常明显的

而其余的用例还须要更深刻测试,这样咱们能力判断 GPT-4 API 是否带来实质性的益处。

另外就是 OpenAI 为提醒和补全提供了对其 32,768 个上下文的无限拜访,这样能够反对发送 / 接管比 gpt-4-0314 多 4 倍的文本。

也就是说最大上下文长度 32,768(约 50 页文本)版本的 GPT-4 API,破费将是 8,092 最大上下文长度版本的 2 倍:

申请令牌 0.06 / 1k 美元,响应令牌 $0.12 / 1k 美元

这个定价能够说是十分贵了。

总结

在 ChatGPT API 和 GPT-4 API 之间的抉择取决于对我的项目的特定需要。所以当你进行抉择的时候应该确定:

  • 预期的利用
  • 所需的精度
  • 波及的财务问题
  • 对将来倒退的适应性

前几天的新闻,ChatGPT API 的价格比 text-davinci-003 低 10 倍(成本低 90%),所以 ChatGPT API 低成本较低兴许能够让咱们以更低的老本测试大语言模型的成果,随着开发者取得更低的价格,咱们能够期待大量新的、令人兴奋的产品,这些产品将融入商品化的人工智能。至于 GPT-4,咱们还是持续期待它在理论利用中的后果吧。

https://avoid.overfit.cn/post/3c8e02ba3e2c48f084b9b1115d4ab2d4

作者:Ivan Campos

退出移动版