✧ 𝕀𝔸𝕄𝔸𝕀 ✧ (@iamai_omni) “Kimi 这么拿货 Blackwell 显然是有理由的，仅仅为了在硅芯片上容纳一个 2.8T 参数模型” — TopicDigg
✧ 𝕀𝔸𝕄𝔸𝕀 ✧
@iamai_omni
Post-AGI | 复杂系统 | 未来主义者 |
加入 February 2020
2.2K 正在关注 29.2K 粉丝
Kimi 这么拿货 Blackwell 显然是有理由的，仅仅为了在硅芯片上容纳一个 2.8T 参数模型（并以 FP16 量化运行它），你就需要 5.6TB 的 VRAM——大致相当于 44 台 Mac Studio，或 15 台 Blackwell。一整台 NVL72 机架，计算支出高达数十万美元。
任何商品都可能过剩，但算力不会，因为它还有另外一个名字叫权力。
显示更多
MiniMax一家要3000台，Kimi每月稳定拿500台，阿里直接甩1万台的单子出来，智谱好点前期囤的多，但也不够用估计在等股票解禁套现去买芯片。
