Bill The Investor (@billtheinvestor) “Bonsai 1-bit 把大模型的运行门槛直接打到了浏览器里。290MB 的体积，通过 WebGPU 就” — TopicDigg
Bonsai 1-bit 把大模型的运行门槛直接打到了浏览器里。290MB 的体积，通过 WebGPU 就能在你的网页端跑出实用级的逻辑。
这意味着你不再需要租昂贵的 A100 显卡，只要有个浏览器，本地算力就能直接接手推理任务。这种极端的 1-bit 量化压缩，正在把 AI 的部署成本从‘云端订阅制’强行拉回‘本地零成本’。
显示更多
