这哪是攒机,这是硬生生在自己屋里盖了座微型电站。
32张3090,拆成4台8卡服务器,再用InfiniBand连起来。卡多只是前菜,真正把难度拉上去的,是后面那套太阳能板、大电池组加发电机备份的组合拳。
多数人对家庭算力的想象就是买卡插电。真到了这个量级,功耗、散热、网络调度、断电自动切换,每一个坑都够你忙活半天。
我也好奇,32张卡在不同任务下到底能吃满多少,InfiniBand会不会变成瓶颈。
普通人想抄这个作业,场地和工业电就能劝退九成。
硬件都有价,但能把这一堆东西稳定跑起来、任务调顺、不炸机,才是真正值钱的手艺。一张卡空转一小时的电费,够点顿外卖了。
显示更多
Finally finished building my AI datacenter! 🚀
32x3090s across 4 servers (8 GPUs each), all connected over InfiniBand.
The whole setup is solar-powered with a massive battery bank and generator backup.
More technical details and benchmarks coming soon.
显示更多