Gorden Sun (@Gorden_Sun) “Subquadratic发布SubQ 1.1 Small：速度超快的LLM SSA将注意力计算从O(n²)降至O(n)，1M” — TopicDigg
Gorden Sun
@Gorden_Sun
加入 August 2013
0 正在关注 0 粉丝
Subquadratic发布SubQ 1.1 Small：速度超快的LLM
SSA将注意力计算从O(n²)降至O(n)，1M token下比密集注意力省64倍算力、比FlashAttention-2快56倍。模型在12M token大海捞针测试中保持98%准确率，通用推理能力接近中上游前沿水平。面向金融、法律、代码库等需要完整长文档推理的企业场景。
官方介绍：
显示更多
