Vincent (@Vincent_AINotes) “GPU 算得再快，数据喂不上来，也只能“饿着”。 这个动画把 HBM 为什么成为 AI 芯片刚需” — TopicDigg
Vincent
@Vincent_AINotes
AI
加入 November 2024
375 正在关注 56.3K 粉丝
GPU 算得再快，数据喂不上来，也只能“饿着”。
这个动画把 HBM 为什么成为 AI 芯片刚需讲透了：
多层 DRAM 像盖楼一样垂直堆叠，再用 TSV 从硅片内部贯穿连接，配合超宽接口，一次搬运更多数据。
高带宽、高容量、更好的能效，代价则是更复杂的制造和先进封装。
HBM 不是近期内存涨价的唯一原因，但 AI 对它的爆发式需求，确实在重新分配 DRAM 产能和封装资源。
这是我目前看过最直观的一版 HBM 动画科普，建议收藏。
显示更多
看 AI 算力产业链，别只盯着 GPU。
如果把一台 AI 服务器拆开看，核心其实是 11 个环节一起工作：
算力芯片：GPU、CPU
存储：HBM、DRAM、NAND
光通信：光芯片、光模块、CPO
硬件底座：PCB、CCL
封装：SiP
一条链串起来就是：
大脑算 → 记忆存 → 神经传 → 板上焊 → 封装拼
通常越往上游，越稀缺，也越容易卡住整条链。👇
显示更多
