Geek (@geekbb) “让 8 美元的 ESP32-S3 芯片跑起近 2900 万参数的 LLM。诀窍是把大部分参数放在 Flash” — TopicDigg
Geek
@geekbb
加入 July 2010
0 正在关注 0 粉丝
让 8 美元的 ESP32-S3 芯片跑起近 2900 万参数的 LLM。诀窍是把大部分参数放在 Flash 里而不是 RAM 里，靠的是 Google Gemma 的 Per-Layer Embeddings 思路。
显示更多
