Gorden Sun (@Gorden_Sun) “Google为Gemma 4系列发布MTP drafters模型 MTP是预测式的草稿模型，非常轻量，作用是” — TopicDigg
Gorden Sun
@Gorden_Sun
只发AI相关信息，个人维护的AI资讯日报（已连续日更3年）👇
加入 August 2013
1.7K 正在关注 56.8K 粉丝
Google为Gemma 4系列发布MTP drafters模型
MTP是预测式的草稿模型，非常轻量，作用是猜测接下来会出现的多个token，猜测后由主模型并行验证，验证通过就能一次性输出多个token。
例如，“泥菩萨过江，自身”后面显然要接“难保”，MTP模型可以不经计算快速预测出来；但如果是普通LLM模型，则要走一遍标准的自回归流程。MTP就是把简单的续写成本大幅降低，从而提升了速度。
官方介绍：
显示更多
