注册并分享邀请链接,可获得视频播放与邀请奖励。

0XYi (@noel05463412631) “他的“AI服务器”其实就是厨房里四台Mac Mini,堆在烤面包机旁边 通过免费的开源软件exo” — TopicDigg

0XYi 的个人资料封面
0XYi 的头像
0XYi
@noel05463412631
分享预测市场高胜率钱包与ai套利机会 预测市场:
加入 September 2024
1.5K 正在关注    1.8K 粉丝
他的“AI服务器”其实就是厨房里四台Mac Mini,堆在烤面包机旁边 通过免费的开源软件exo,它们被连接成一台虚拟机器,能运行2350亿参数的超大模型——单台电脑根本装不下。 他目前有6位受监管的客户,每人每月支付3500美元使用这套系统,每月总收入2.1万美元。 整个集群只用了总计2400美元的硬件,每月电费约25美元。前三周就回本了。 第1个月有2个客户(7000美元),第3个月增至4个(1.4万美元),第6个月达到6个(2.1万美元)。 关键在于隐私: 数据完全留在他的设备上,从不上传任何第三方服务器。 这对律师事务所、HIPAA合规的医疗机构、以及处理客户财务数据的会计师事务所来说,正是他们最需要却在云端买不到的东西。 他们不需要追逐最新模型,只需要一台“能指着说这就是我的数据”的本地系统。 云服务商卖的是计算资源和对你数据的访问权,而他卖的是唯一一样东西——永不外传的隐私计算。 四台银色小盒子在咖啡机和水果碗之间安静运行,客户却想象着机房和冷却风扇。这就是全部。
显示更多
0
17
27
6
转发到社区