注册并分享邀请链接,可获得视频播放与邀请奖励。

Soran (@Soranlan) “这哪是攒机,这是硬生生在自己屋里盖了座微型电站。 32张3090,拆成4台8卡服务器,再” — TopicDigg

Soran 的个人资料封面
Soran 的头像
Soran
@Soranlan
拆普通人也跑得起的 AI 内容工作流 AI 热点、工具实测、生图视频、Prompt/SOP 只写跑通后的方法
加入 December 2018
335 正在关注    5.3K 粉丝
这哪是攒机,这是硬生生在自己屋里盖了座微型电站。 32张3090,拆成4台8卡服务器,再用InfiniBand连起来。卡多只是前菜,真正把难度拉上去的,是后面那套太阳能板、大电池组加发电机备份的组合拳。 多数人对家庭算力的想象就是买卡插电。真到了这个量级,功耗、散热、网络调度、断电自动切换,每一个坑都够你忙活半天。 我也好奇,32张卡在不同任务下到底能吃满多少,InfiniBand会不会变成瓶颈。 普通人想抄这个作业,场地和工业电就能劝退九成。 硬件都有价,但能把这一堆东西稳定跑起来、任务调顺、不炸机,才是真正值钱的手艺。一张卡空转一小时的电费,够点顿外卖了。
显示更多
Finally finished building my AI datacenter! 🚀 32x3090s across 4 servers (8 GPUs each), all connected over InfiniBand. The whole setup is solar-powered with a massive battery bank and generator backup. More technical details and benchmarks coming soon.
显示更多