管四 (@guansi) “Gemma 4 12B Coder GGUF 出来了，把 Fable 5 的推理链蒸馏到本地 12B，12GB 显卡甚至” — TopicDigg
管四
@guansi
加入 September 2010
0 正在关注 0 粉丝
Gemma 4 12B Coder GGUF 出来了，把 Fable 5 的推理链蒸馏到本地 12B，12GB 显卡甚至 CPU 都能跑。这个方向我很喜欢。云端神模型当然爽，但进内网、控成本、长期跑，最后还得靠本地小钢炮。专家模型负责开天门，小模型负责搬砖。数字员工也开始有师徒制了。
显示更多
