关于AI内存短缺最令人震惊的一点是,普通DRAM的每GB单价如今已高于HBM,这充分说明了需求正在多大程度上重塑市场格局。
而且AI所需的远不止HBM,以下是六类内存和存储的详细构成:
• SRAM(3,000美元/GB):用于AI推理的超高速片上内存
• HBM(20 美元/GB):为 GPU 提供数据的高带宽内存
• DRAM(25 美元/GB):服务器、个人电脑和手机的工作内存
• NAND(0.30 美元/GB):用于存储 AI 上下文和推理数据的闪存
• HDD(0.016 美元/GB)——用于海量 AI 数据集的低成本大容量存储
• 磁带(0.008 美元/GB)——用于 AI 数据归档的长期存储
涉及这些层面的公司包括 $MU、$SKHY、$SNDK、$STX、$WDC、$IBM、$NVDA 和 $CBRS。
显示更多