果蝇大脑和我们今天用的主流 LLM,Claude、gpt,image2.5,结构上有巨大区别。
人类主流玩的网络,在训练前,都是固定好了结构,Transfomer,MoE,Dense 都固定。再通过数据调整权重。
🔥果蝇大脑很有意思,网络连接极其复杂。亿万年的进化,让它多模态、低功耗、支持 flash 模式,几乎不支持 thinking 模式。
只有16.7 万个神经元,粗暴类比成 AI 模型,它大概是一个 0.026B 级别的超稀疏连接网络。
这种网络如果让人设计,一根线一根线设计,完全不可能。
现在都有人拿它来玩游戏、开车、刷视频、解魔方。
会不会里面还藏着很多类似 ResNet这种神作? 🤔
显示更多