跳到正文
启枢智能KRoute
汇报展示
筹建期说明启枢智能处于筹建期,产品尚未对外提供,也未开始计费。页面中的价格、延迟、节点与流量均为可修改的示例值或示意动画,不是报价,也不是线上数据。
测算工具

不用注册,现在就能算

两个工具都只在你的浏览器里运行,不上传任何输入,断网也能用。算法写在每个工具下面,可以自己核对。

工具一

显存估算:这个模型要多大的卡

显存估算 本页可用

推理场景。训练与微调需要的显存更多,不在本工具范围内。

层
维

估算显存占用

算法:权重 = 参数量 × 每参数字节(16 位浮点 2 字节,8 位量化 1 字节,4 位量化 0.5 字节)。KV 缓存 = 2 × 层数 × 隐藏维度 × 上下文长度 × 并发数 × 2 字节 ÷ 分组比。运行开销按 1 GB 加权重的 8% 估。单卡按标称显存的 95% 计可用。

局限:预设的层数与隐藏维度是该规模常见结构的代表值,具体模型以其配置文件为准,可直接改数。分组注意力会按比例缩小 KV 缓存。近年的开源模型多数用了分组,所以默认取 1/4;不确定就拉到“不分组”,结果偏保守。多卡并行还有通信与分片开销,未计入。结果是估算,实际以框架实测为准。

工具二

租买测算:这张卡该租还是该买

默认数字是示例值,不是任何一家的报价。把你自己拿到的价格填进去。

租买测算 本页可用

所有输入只在你的浏览器里计算。

元
%
瓦
元/度
元/月
元/时
小时
个月

买卡多久回本

租用累计自购累计(折旧+电费+运维)回本点

自购折合
租用单价
利用率

算法:自购累计 = 购卡价 ×(1 − 残值)+(功耗 × 电价 × 使用小时 + 运维)× 月数;租用累计 = 单价 × 使用小时 × 月数。回本月份是两条线的交点。未计资金占用、故障停机与换代贬值,这三项都对自购不利。

第三个工具是路由模拟器,在 模型路由 页。