注册并分享邀请链接,可获得视频播放与邀请奖励。

anonymous (@youyouAllen) “过去一段时间研究kv cache 压缩发现一个计算与存储的矛盾:因为当前AI存储需求是基于” — TopicDigg

anonymous 的个人资料封面
anonymous 的头像
anonymous
@youyouAllen
Nothing
加入 August 2014
1.1K 正在关注    3.1K 粉丝
过去一段时间研究kv cache 压缩发现一个计算与存储的矛盾:因为当前AI存储需求是基于计算妥协导致,长期看计算慢慢吃掉多余存储空间,导致存储供应过剩。所以如果计算下跌,存储会跌的更多,如果存储上涨,计算会涨的更多。如果计算没存储涨的多,说明市场存储泡沫进一步放大,只需要加仓计算就行了。
显示更多