AI Will (@FinanceYF5) “10/ 更大的结论是： 深度可能成为下一条重要的 Scaling 轴，但前提是采用正确的残差连” — TopicDigg
AI Will
@FinanceYF5
加入 July 2022
0 正在关注 0 粉丝
10/ 更大的结论是：
深度可能成为下一条重要的 Scaling 轴，但前提是采用正确的残差连接。
HC 和 Full AttnRes 已经证明，模型可以从深度中获得更强性能。
接下来的瓶颈，将从模型架构转向基础设施与 Kernel 优化。
显示更多
热门用户
