豆包大模型公布价格清单,支持国内最高并发标准
来源:51CTO.COM
时间:2024-05-23 18:06:47 423浏览 收藏
学习知识要善于思考,思考,再思考!今天golang学习网小编就给大家带来《豆包大模型公布价格清单,支持国内最高并发标准》,以下内容主要包含等知识点,如果你正在学习或准备学习科技周边,就都不要错过本文啦~让我们一起来看看吧,能帮助到你就更好了!
近期,火山引擎官网更新了豆包大模型的定价详情。全面展示豆包通用模型不同版本、不同规格的价格信息。在模型推理定价大幅低于行业价格的基础上,豆包通用模型的 TPM(每分针Tokens)和 RPM(每分钟请求数)均达到国内最高标准。以豆包主力模型 pro-32k 为例,价格比行业低99%,TPM限额则高达同规格模型的2.7倍至8倍。
图:豆包系列模型“后付费”定价信息
“官方信息显示:在按照 Tokens 实际使用量计算费用的“后付费”模式下,豆包通用模型 Pro、豆包通用模型 Lite 的32k及以下窗口版本,模型限流为10K RPM和800K TPM(以 RPM 和 TPM 其中之一达到上限为准)。国内其他主流模型的 TPM 限额大多在100K到300K之间,RPM则是60到120区间,轻量级模型的RPM限额相对较高,但仅仅300到500之间。”
按照 10K RPM 限额计算,企业客户平均每秒可以同时调用 167 次豆包通用模型,从而满足绝大多数业务场景在生产系统的大模型应用需求。这一标准,已经达到 OpenAI 为高级别客户(Tier4 及 Tier5 等级客户)提供的 RPM 上限。
在算力挑战更大的长文本模型上,豆包通用模型 Pro 和 Lite 的 128k 版本,模型限流为 1K RPM 和 400K TPM,同样大幅高于国内其他128k长文本模型。
此外,豆包大模型公布了最新的“预付费”模型单元价格。“预付费”是以调用某个特定模型的 TPM 配额,企业购买后无需再为 Tokens 消耗付费,提前为可以预测的流量波动规划好算力 。
图:豆包系列模型“预付费”模型单元价目表
以豆包通用模型 pro-32k为例: 按照 “预付费”模型单元价格计算,10K TPM 的包月价格为2000元。10K*60*24*30=43200K。即 432000K Tokens的价格为2000元,平均价格为 0.0046元/千Tokens。 按照“后付费”模式计算:在模型推理的计算成本中,推理输入通常占绝大部分比例,业界一般认为推理输入是输出的5倍。根据豆包通用模型 pro-32k 推理输入 0.0008元/千Tokens、推理输出 0.002元/千Tokens 计算,模型推理的综合价格为 0.001元/千Tokens。 |
火山引擎方面表示,豆包大模型为客户提供了灵活、经济的付费模式,“后付费”即可满足绝大多数企业客户的业务需求,助力企业以极低成本使用大模型、加速大模型的应用落地。
“豆包模型的超低定价,来源于我们有信心用技术手段优化成本,而不是补贴或是打价格战争夺市场份额。”火山引擎总裁谭待认为,“羊毛出在猪身上”在企业市场行不通,技术驱动的极致性价比才能真正创造价值。火山引擎与字节跳动豆包大模型团队正在密切合作,将持续优化模型效果和推理成本,为企业和开发者提供更好模型、更低成本和更易落地的平台支持。
附:火山引擎官网的模型服务价格文档https://www.volcengine.com/docs/82379/1099320
今天关于《豆包大模型公布价格清单,支持国内最高并发标准》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于火山引擎,豆包大模型的内容请关注golang学习网公众号!
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
193 收藏
-
286 收藏
-
332 收藏
-
211 收藏
-
447 收藏
-
270 收藏
-
151 收藏
-
388 收藏
-
470 收藏
-
382 收藏
-
157 收藏
-
186 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习