LotusDecoder (@LotusDecoder) “qwen-3.6-27B 可以压缩到 4GB， 性能无损的话， 那么主流旗舰手机，16G内存， 都可以” — TopicDigg
LotusDecoder
@LotusDecoder
AI - mind - heart
加入 December 2023
2.3K 正在关注 7.4K 粉丝
qwen-3.6-27B 可以压缩到 4GB，
性能无损的话，
那么主流旗舰手机，16G内存，
都可以跑了。
等于 gpt-4o 飞入寻常百姓家
加州理工学院数学家 Babak Hassibi 联合创立的 AI 实验室 PrismML 表示，已成功把阿里开源模型 Qwen3.6-27B 压缩后跑在 iPhone 17 Pro 上。
Qwen3.6-27B 是 270 亿参数稠密模型。PrismML 称，模型大小从约 54GB 压到不到 4GB，性能没有明显下降。它可用于复杂对话、推理、Agent 和代码任务。
苹果已经和 PrismML 接触，讨论如何使用这项技术。苹果一直想把更多 AI 放到设备本地，但高级 Siri 仍依赖云端模型。
显示更多
