區塊先生 🐡 ⚠️ (rock #58) (@mrblock) “🚀 Unsloth 超強量化再出擊！ https://t.co/7AH0bXNXaP 的 GLM-5.2（744B 參數、40B” — TopicDigg
區塊先生 🐡 ⚠️ (rock #58)
@mrblock
investor & advisor at @CurveFinance @lighter_xyz & Puffer 🎍I make tech videos 平時就是做天使投資
加入 May 2019
4.2K 正在关注 99.5K 粉丝
🚀 Unsloth 超強量化再出擊！
的 GLM-5.2（744B 參數、40B 激活、100萬上下文）已被壓縮成動態 2-bit GGUF！
📉 從 1.51TB 狂降到 239GB（-84%），保留約 82% 原始效能！
1-bit 版更小，只要 217GB（約 76% 效能）
這是目前最強開源模型之一，長上下文 coding、複雜推理、Agent 任務表現逼近 Claude 4.8 Opus、GPT-5.5、Gemini 3.1 Pro！
💻 不用一定要買 DGX Spark！
✅ 256GB 統一記憶體的 Mac 就能直接跑
✅ 或 256GB RAM + 單張 24GB GPU（MoE offloading）也行
用 Unsloth Studio / llama.cpp 本地部署，開源時代真的越來越香了 🔥
下載連結：
完整指南：
显示更多
GLM-5.2 can now be run locally!🔥
The 2-bit model retains ~82% accuracy after we shrunk it from 1.51TB to 238GB (-84% size).
Run on a 256GB Mac or RAM/VRAM setups.
GLM-5.2 is the strongest open model to date.
Guide:
GGUF:
显示更多
