注册并分享邀请链接,可获得视频播放与邀请奖励。

lifcc (@mylifcc) “GLM-5.2 终于能本地跑了!🔥 Unsloth 把这个 1.51TB 的前沿 open weights 模型压到 23” — TopicDigg

lifcc 的个人资料封面
lifcc 的头像
lifcc
@mylifcc
每天用 AI 写代码的工程师 Claude Code | Codex深度用户 |Agentic engineering 在这里分享 AI 工具实测和开发者工作流
加入 January 2022
248 正在关注    3.7K 粉丝
GLM-5.2 终于能本地跑了!🔥 Unsloth 把这个 1.51TB 的前沿 open weights 模型压到 238GB(-84%),2-bit 量化后还保留 ~82% 准确率。256GB Mac / 大内存机器就能跑,当前最强 open model 之一落地了。 尤其是 coding + agentic 能力提升明显,1M context + MIT license,配合本地 agent harness 潜力巨大。 Unsloth 又一次把“local”推向新边界。
显示更多
GLM-5.2 can now be run locally!🔥 The 2-bit model retains ~82% accuracy after we shrunk it from 1.51TB to 238GB (-84% size). Run on a 256GB Mac or RAM/VRAM setups. GLM-5.2 is the strongest open model to date. Guide: GGUF:
显示更多