他的“AI服务器”其实就是厨房里四台Mac Mini,堆在烤面包机旁边
通过免费的开源软件exo,它们被连接成一台虚拟机器,能运行2350亿参数的超大模型——单台电脑根本装不下。
他目前有6位受监管的客户,每人每月支付3500美元使用这套系统,每月总收入2.1万美元。
整个集群只用了总计2400美元的硬件,每月电费约25美元。前三周就回本了。
第1个月有2个客户(7000美元),第3个月增至4个(1.4万美元),第6个月达到6个(2.1万美元)。
关键在于隐私:
数据完全留在他的设备上,从不上传任何第三方服务器。
这对律师事务所、HIPAA合规的医疗机构、以及处理客户财务数据的会计师事务所来说,正是他们最需要却在云端买不到的东西。
他们不需要追逐最新模型,只需要一台“能指着说这就是我的数据”的本地系统。
云服务商卖的是计算资源和对你数据的访问权,而他卖的是唯一一样东西——永不外传的隐私计算。
四台银色小盒子在咖啡机和水果碗之间安静运行,客户却想象着机房和冷却风扇。这就是全部。
显示更多