猛啊!在浏览器里跑 Gemma 4,堪比 ChatGPT?!🔥
完全零服务器、零数据上传、离线使用、纯WebGPU本地推理!
Xenova把 Fable 5写的27个自定义WebGPU内核
全部开源了:
- Gemma 4 E2B(23亿参数移动优化版)
- AI自己帮AI写低级WGSL着色器
- 速度从84直接拉到 255 tok/s(M4 Max / RTX 4090 上丝滑如本地App)
这玩意儿到底有什么用?
- 隐私党福音:处理合同、代码、聊天记录、敏感信息,数据永远只在你设备上,绝不上云
- 离线神器:飞机、高铁、地铁、没网也能随时聊天、写文、脑暴
- 秒回助手:日常问答、文档总结、代码生成、翻译、创意写作,响应快到飞起
- 开发者玩具:直接看AI生成的27个内核代码,学习WebGPU优化,fork改成自己的网页AI工具
- 未来模板:网页游戏实时NPC、在线文档智能助手、浏览器内实时翻译、个性化学习工具……全都能本地跑
这是 Agentic AI自我优化推理引擎 的真实落地!
Fable 5帮自己加速,结果第三天访问被暂停了……
现在轮到我们普通人爽了⚡
评论区见地址👇
显示更多