注册并分享邀请链接,可获得视频播放与邀请奖励。

AI少年 (@aehyok) “不得了了,伙伴们,Strata 这个开源项目碉堡了,真的碉堡了。 一块12G显存的RTX 5070” — TopicDigg

AI少年 的个人资料封面
AI少年 的头像
AI少年
@aehyok
加入 December 2014
0 正在关注    0 粉丝
不得了了,伙伴们,Strata 这个开源项目碉堡了,真的碉堡了。 一块12G显存的RTX 5070 搭配 Ryzen 5 7600 处理器 64GB 内存 在这台游戏PC机上把 Qwen3.8-Flash-Next 跑到冒烟 量化版响应速度干到 94 tok/s 要知道 Qwen3.8-Flash-Next 大模型 MoE 稀疏混合架构 总参数 125B,激活参数 6B 真的不得了了,有需要的老铁跑跑玩玩看 开源项目地址:
显示更多
赶在牛来(Ox Alpha)未来之前,Qwen3.8-Flash-Next 重磅提前发布。 看截图,仅三项跑分没有超过 Deepseek v4-flash 或 Claude-Opus 4.6(max)! 1、Qwen3.8-Flash-Next 作为 Qwen4 架构预览版。 2、原生多模态 MoE 3、参数 125B 的主模型,每 Token 仅激活约 6B 4、额外挂载 51B N-gram Embedding,大内存 Mac和DGX Spark 适配度很高。 5、另外首次引入 QSA:稀疏选择长上下文 6、GDN + QSA 混合 Attention 7、4 路 Gated Residual + Muon Optimizer 8、相比 Qwen3.7-Plus,官方称训练成本降至约 1/9 所以我觉得这次最值得关注的并不是 又开放了一个 125B 模型,而是: Qwen 正在把大模型的容量和实际推理计算量彻底拆开。 125B 用来提供容量,6B 负责实际计算,51B N-gram 负责低成本存储局部模式,GDN 负责记,QSA 负责找。
显示更多